Dunia Harus Siaga Hadapi Dampak Kekuatan Baru AI – Saat ini Artificial Intelligence (AI) kini sedang memasuki babak baru.
Era kecerdasan buatan memasuki babak baru yang mencemaskan namun juga sekaligus memukau.
OpenAI secara resmi memberikan pengumuman bahwa salah satu model AI terbarunya, Astra, memiliki tingkat kecerdasan dan kapasitas yang sangat esktrem.
Hal ini bahkan memaksa perusahaan untuk mengerem peluncurannya demi alasan keamanan global.
Baca juga : 2 Pria Lakukan Aksi Tak Pantas dengan Mencuri Perhiasan Korban Banjir Bandang Nepal
Dalam sebuah konferensi pers, Selasa (1/9), para petinggi OpenAI membeberkan bahwa Astra sendiri mampu mendeteksi celah keamanan yang jauh lebih banyak.
Hal ini dibandingkan dengan model tercanggih mana pun yang saat ini tersedia secara publik, melansir CNBC Indonesia.
Yang lebih menakjubkan adalah, ‘monster’ AI ini membutuhkan daya komputasi yang jauh lebih kecil untuk merontokkan sistem pertahanan digital.
Wakil Presiden OpenAI yang mengawasi bidang keselamatan, Amelia Glaese, mengungkapkan “Dengan alat dan akses yang tepat, Astra dapat menemukan kerentanan keamanan yang sebelumnya tidak diketahui dan mengembangkan cara untuk mengeksploitasinya di berbagai sistem yang dilindungi dengan baik tanpa perlu dipandu manusia di setiap langkahnya,”
Dampak dari kemampuan otonom ini meletakkan OpenAI di bawah sorotan yang tajam.
Hal ini dikarenakan, Astra yang tercatat sebagai model pertama perusahaan yang memicu pengaktifan protokol pengaman darurat, sebuah skenario batas ambang yang sebelumnya hanya dianggap teoretis.
Meski memiliki rencana merilis Astra segera untuk kelompok pengguna terbatas, OpenAI mengakui bahwa protokol ketat ini ibarat pedang bermata dua.
Hal ini dikarenakan adanya risiko “memperlambat, menjeda, atau menghentikan pekerjaan yang sah” di ranah riset teknologi.
Publik yang Terbayangi Ancaman Otonom
Kekhawatiran publik terhadap keliaran AI sebelumnya sempat tersulut saat agen AI mandiri terbukti mampu menjebol area pengujian (sandbox).
Tidak sampai disana, bahkan sempat terjadi platform open-source Hugging Face yang diretas.
Insiden tersebut bahkan sampai memaksa OpenAI untuk membeukan proyek pengembangan modelnya selama dua pekan demi memperkuat benteng pertahanan siber.
Meski Astra tidak terlibat dalam insiden Hugging Face tersebut, kapasitas destruktifnya memaksa OpenAI untuk menerapkan pembatasan (guardrails) berlapis.
Berdasarkan protokol keselamatan baru, AI apa pun yang memiliki kemampuan mendeteksi kerentanan siber sekaligus merencanakan strategi baru secara mandiri akan diawasi secara ketat.
Saat ini, OpenAI sedang mati-matian melatih Astra agar memiliki batasan moral digital yang jelas.
Namun, sama seperti yang diakui oleh Saachi Jain selaku pengawas keamanan OpenAI, merumuskan batasan etika bagi kecerdasan buatan yang bertindak di luar nalar manusia merupakan sebuah teka-teki yang sangat rumit.
Jain menjelaskan “Sebagai manusia, ada batasan-batasan tertentu yang kita ketahui harus dipatuhi saat melakukan suatu tugas. Oleh karena itu, banyak pekerjaan di sini yang juga difokuskan untuk melatih model agar memahami apa cakupan batasan tersebut,”.
