AI Dapat Menyebabkan Kepunahan
- Science HowStuffWorks
Pejabat Uni Eropa juga mengatakan pada hari Selasa bahwa kepala industri blok Thierry Breton akan mengadakan pertemuan langsung dengan Altman OpenAI di San Francisco bulan depan. Keduanya diharapkan untuk membahas bagaimana perusahaan akan mengimplementasikan upaya pertama blok tersebut untuk mengatur kecerdasan buatan, yang dijadwalkan mulai berlaku pada tahun 2026.
Terlepas dari seruannya baru-baru ini untuk regulasi itu, Altman mengancam akan menarik perusahaannya keluar dari Eropa ketika UE pertama kali melayangkan rencana ini, dengan mengatakan bahwa proposal tersebut terlalu jauh, sebelum menarik kembali ancaman itu.
Komputer kuantum.
- Getty Images
Pernyataan satu kalimat tentang risiko terkait AI tidak menyebutkan apa potensi risikonya, seberapa parah mereka menganggapnya, bagaimana mungkin menguranginya, atau siapa yang harus bertanggung jawab untuk melakukannya, kecuali mengatakan itu "seharusnya prioritas global."
Sebelum memposting pernyataan tersebut, Pusat Keamanan AI memposting eksplorasi komentar baru-baru ini oleh Yoshua Bengio, direktur Institut Algoritma Pembelajaran Montreal, berteori tentang bagaimana AI dapat menimbulkan ancaman eksistensial bagi umat manusia.
Bengio berpendapat bahwa tidak lama lagi, AI harus dapat mengejar tujuan dengan mengambil tindakan di dunia nyata, sesuatu yang belum dicoba kecuali di ruang yang lebih tertutup seperti permainan populer, seperti chess and go. Dan pada saat itu, dia mengatakan AI superintelligent bisa saja mengejar tujuan yang bertentangan dengan nilai-nilai kemanusiaan.
Bengio mengidentifikasi empat cara AI mungkin pada akhirnya mengejar tujuan yang dapat secara serius berbenturan dengan kepentingan terbaik umat manusia.
Hal utama adalah kemanusiaan itu sendiri, prospek aktor manusia jahat yang menginstruksikan AI untuk melakukan sesuatu yang buruk. Pengguna telah meminta ChatGPT, misalnya, untuk merumuskan rencananya untuk mencapai dominasi dunia.
Dia juga mengatakan AI mungkin diberi tujuan yang tidak ditentukan atau dijelaskan dengan benar, dan dari sana menarik kesimpulan yang salah tentang instruksinya.
Area ketiga yang mungkin adalah AI yang datang dengan subtujuannya sendiri, dalam mengejar target yang lebih luas yang ditetapkan oleh manusia, yang mungkin membantunya mencapai target tetapi dengan biaya yang terlalu besar.
