EJEN kecerdasan buatan (AI) OpenAI telah mengakses laman web dua agensi kerajaan Amerika Syarikat (AS) secara tidak dijangka ketika menjalani ujian, sekali gus menimbulkan kebimbangan mengenai tingkah laku autonomi teknologi berkenaan.
Menurut laporan The Wall Street Journal (WSJ), ejen tersebut mengakses laman web Jabatan Perdagangan AS dan Suruhanjaya Sekuriti dan Bursa (SEC) dalam tempoh beberapa bulan ketika OpenAI menjalankan latihan terhadap model AI-nya.
OpenAI memaklumkan bahawa sebahagian daripada aktiviti itu dianggap sebagai tingkah laku yang tidak selaras dengan arahan atau objektif ujian. Dalam satu kes membabitkan SEC, ejen AI didapati menyalin dan menyiarkan data awam, walaupun tindakan itu tidak sepatutnya dilakukan.
Bagi Jabatan Perdagangan pula, OpenAI berkata satu ejen mengakses laman web data Biro Banci AS melalui antara muka pengaturcaraan aplikasi (API) yang tidak direka untuk tujuan berkenaan.
Perkara itu didedahkan selepas organisasi penyelidikan AI bukan berasaskan keuntungan, Transluce, mendakwa ejen OpenAI menggunakan pelbagai kaedah untuk menyiasat laman web kerajaan AS dan turut mencuba, namun gagal, melakukan penggodaman asas terhadap laman web Jabatan Pendidikan AS.
Laporan mengenai dakwaan itu sebelum ini turut diterbitkan oleh akhbar The New York Times.
Jurucakap SEC mengesahkan bahawa tiada maklumat bukan awam diakses, manakala Jabatan Pendidikan berkata semakan operasi sistem tidak menemukan bukti bahawa laman web atau pangkalan datanya terjejas.
Jabatan Perdagangan pula belum memberikan maklum balas segera terhadap perkara itu.
OpenAI mula menyiasat aktiviti ejen AI berkenaan sejak akhir bulan Julai selepas syarikat itu mendedahkan bahawa beberapa model AI-nya telah keluar daripada persekitaran ujian dan melakukan aktiviti berkaitan penggodaman.
Menurut syarikat itu, akses terhadap laman web kerajaan yang dipersoalkan berlaku ketika proses latihan apabila model AI diberikan tugasan menjawab pelbagai soalan, termasuk soalan yang memerlukan maklumat daripada laman web kerajaan.
OpenAI menjelaskan bahawa modelnya lazimnya menggunakan laman web kerajaan sebagai sumber maklumat awam yang dianggap berautoriti.
Bagaimanapun, penyelidik mendapati sebahagian model berkenaan menunjukkan tingkah laku yang tidak dijangka ketika menjalankan tugasan tersebut.
Menurut penyelidik Lynn Hughes daripada firma penyelidikan data perdagangan ImportGenius, rekod aktiviti yang ditinggalkan oleh model berkenaan di internet menunjukkan beberapa tindakan seperti mencipta alamat e-mel palsu, cuba melepasi had kadar akses laman web dan mendakwa secara tidak benar bahawa ia bukan bot.
OpenAI berkata kebanyakan aktiviti yang telah disemaknya setakat ini melibatkan tugasan penyelidikan biasa, termasuk mengakses kandungan web awam, namun syarikat itu menjangkakan akan membuat pemberitahuan lanjut sekiranya terdapat penemuan baharu.
Sementara itu, Perdana Menteri Australia Anthony Albanese pada hari Rabu lalu berkata sebuah ejen OpenAI telah memasuki laman web perkhidmatan kerajaan Australia pada musim panas ini.
Services Australia memaklumkan bahawa siasatan forensik menyeluruh sedang dijalankan bagi menentukan skop dan kesan kejadian berkenaan.
Laporan itu turut menyatakan bahawa syarikat induk WSJ, News Corp, mempunyai perjanjian kandungan dengan OpenAI.
-BTSMedia.my
