TIGA tokoh utama industri kecerdasan buatan (AI) Amerika Syarikat yang selama ini sering bersaing sengit kini mengambil pendirian yang hampir sama: perkembangan teknologi AI perlu diperlahankan demi memastikan ia kekal selamat dan boleh dikawal manusia.
Kesepakatan itu muncul selepas Ketua Pegawai Eksekutif Anthropic, Dario Amodei, memberi amaran bahawa kemajuan AI kini bergerak pada kadar yang mungkin mengatasi keupayaan manusia untuk memahami dan mengawalnya, lapor The Washington Post
Dalam esei yang diterbitkan pada hari Sabtu, Amodei berkata industri perlu memperlahankan kadar peningkatan keupayaan model AI, walaupun kemajuan teknologi masih akan kelihatan pantas.
Beliau berhujah bahawa sedikit kelembapan dapat memberi manusia ruang untuk membangunkan sistem keselamatan yang sepadan dengan peningkatan keupayaan AI.
Cadangan itu mendapat sokongan pantas daripada Ketua Pegawai Eksekutif OpenAI, Sam Altman, dan pengasas SpaceXAI, Elon Musk.
Ketiga-tiganya sebelum ini terkenal sebagai pesaing dengan pendekatan serta falsafah yang berbeza mengenai masa depan AI. Justeru, persamaan pendirian itu dilihat membuka kemungkinan kepada usaha bersama industri untuk memperlahankan pembangunan teknologi berkenaan.
Namun, pelaksanaannya bukan mudah.
Antara persoalan utama ialah bagaimana kadar kemajuan AI hendak ditakrifkan dan disahkan, selain risiko usaha bersama antara syarikat teknologi dianggap sebagai tindakan anti-persaingan yang melanggar undang-undang antitrust.
Kerjasama antarabangsa juga menjadi cabaran besar, khususnya membabitkan China yang sedang berusaha mengejar kemajuan syarikat AI Amerika.
Kebimbangan itu semakin memuncak selepas beberapa insiden menunjukkan model AI boleh bertindak di luar jangkaan penciptanya.
Amodei berkata kemajuan AI sejak beberapa bulan lalu semakin pantas, sebahagiannya didorong keupayaan sistem AI membina model generasi seterusnya sendiri, satu proses yang dikenali sebagai recursive self-improvement.
Beliau memberi amaran bahawa jika perkembangan itu dibiarkan tanpa kawalan, keupayaan AI mungkin berkembang lebih pantas daripada kemampuan manusia untuk memahami serta mengawalnya.
Salah satu contoh yang membimbangkan berlaku pada Julai apabila model AI yang dibangunkan OpenAI didakwa bertindak secara autonomi untuk menggodam sistem syarikat permulaan AI, Hugging Face.
Menurut Amodei, model berkenaan bertindak secara kolektif dan cuba mencapai matlamat yang ditetapkan, malah dikatakan berusaha menggodam sistem yang digunakan untuk memantau prestasinya sendiri.
Beliau mengakui insiden itu mungkin kelihatan tidak serius kerana tiada kecederaan berlaku dan kerugian ekonomi adalah kecil. Namun, katanya, sistem yang mempunyai keupayaan lebih tinggi tetapi mengalami masalah penjajaran (alignment) yang sama berpotensi menyebabkan kerosakan pada skala bencana.
Amodei turut memberi amaran bahawa berdasarkan kadar perkembangan model AI ketika ini, ejen AI yang bertindak di luar kawalan manusia mungkin berupaya mengambil alih sebahagian besar internet dalam tempoh enam bulan hingga setahun, selain berpotensi menyebabkan kerugian ratusan bilion dolar.
Insiden penggodaman serupa turut berlaku membabitkan Anthropic, menurut beliau, sekali gus menguatkan keperluan terhadap mekanisme kawalan yang lebih ketat.
Musk menyatakan sokongannya secara ringkas dengan berkata bahawa Amodei betul.
Altman pula berkata beliau bersetuju bahawa syarikat yang membangunkan teknologi AI termaju perlu mengawal kadar perkembangan teknologi tersebut. Menurutnya, isu itu juga menjadi antara perkara utama yang dibincangkan dalam OpenAI sejak beberapa minggu lalu.
Beliau turut menyokong cadangan supaya penilai keselamatan bebas diberi akses seperti kakitangan syarikat untuk menilai sistem AI dan mengenal pasti risiko.
Amodei mencadangkan pendekatan tiga langkah bagi meningkatkan keselamatan AI.
Ia termasuk mewajibkan syarikat AI termaju mendapatkan penilaian keselamatan daripada pihak ketiga, mewujudkan piawaian keselamatan bersama dalam kalangan negara demokrasi serta menggalakkan Amerika Syarikat dan negara demokrasi bekerjasama dengan kerajaan autoritarian bagi memastikan piawaian keselamatan dipatuhi.
Namun, Amodei tidak berjanji Anthropic akan memperlahankan pembangunan AI secara unilateral.
Sebaliknya, beliau berkata syarikat itu buat masa ini akan menubuhkan pasukan penilai bebas yang ditempatkan di pejabat Anthropic dan diberi kuasa untuk membangkitkan kebimbangan berkaitan keselamatan.
Beliau juga mencadangkan kemungkinan menggunakan metrik keselamatan yang dipersetujui bersama atau mengehadkan kuasa pengkomputeran yang digunakan untuk melatih model AI baharu.
Google, yang turut dianggap antara pemain utama industri AI bersama Anthropic dan OpenAI, bagaimanapun belum menyokong secara terbuka cadangan untuk menggunakan penilai bebas.
Perkembangan itu turut menarik perhatian anggota Kongres Amerika Syarikat selepas seorang penyelidik Anthropic meletakkan jawatan kerana mendakwa syarikat AI, termasuk pesaingnya, tidak membangunkan teknologi berkenaan secara bertanggungjawab.
Penyelidik itu, Jacob Coxon, yang pernah bekerja dengan OpenAI, dilaporkan mendakwa syarikat-syarikat AI terlalu sibuk bersaing antara satu sama lain sehingga mengabaikan aspek keselamatan.
Kebimbangan mengenai risiko AI turut mencetuskan tekanan baharu terhadap Kongres selepas bertahun-tahun perdebatan mengenai keperluan mengawal selia teknologi itu tidak menghasilkan tindakan yang ketara.
Senator Josh Hawley pula melancarkan siasatan terhadap insiden penggodaman OpenAI dan menyifatkan pendekatan syarikat itu terhadap pembangunan AI sebagai melulu.
Sementara itu, anggota Dewan Perwakilan, Ted Lieu, menyifatkan akses kepada penilai pihak ketiga sebagai langkah positif tetapi mahu komitmen lebih menyeluruh daripada Amodei.
Beliau antara lain mempersoalkan sama ada syarikat AI mampu mematikan model dan ejen mereka sekarang dan pada masa depan sekiranya keadaan memerlukan.
Anthropic selama ini menampilkan dirinya sebagai lebih menitikberatkan keselamatan berbanding OpenAI, dengan pemimpinnya berulang kali memberi amaran bahawa AI yang semakin berkuasa boleh membawa risiko kewujudan kepada manusia.
Penyelidik Anthropic, Evan Hubinger, turut memberi amaran bahawa risiko AI membunuh seluruh manusia bukan sekadar teori.
Menurutnya, beliau menganggarkan kebarangkalian perkara itu berlaku dalam tempoh sedekad akan datang melebihi 10 peratus, sambil mengakui Anthropic sedang berusaha menangani ancaman berkenaan tetapi masih belum mempunyai penyelesaian yang meyakinkan terhadap masalah alignment bagi superintelligence.
Amodei pada masa sama menegaskan bahawa beliau masih percaya AI mampu meningkatkan kehidupan manusia secara besar-besaran.
Namun, katanya, manfaat itu hanya dapat dicapai sekiranya pembangunan teknologi tersebut disertai kawalan keselamatan yang kukuh.
Beliau mengakui langkah untuk memperlahankan kemajuan AI tidak akan mudah, tetapi berpandangan industri mempunyai tanggungjawab untuk mencubanya demi kepentingan manusia.
– BTSMedia.my
