Persaingan Raksasa Teknologi dan Ancaman Penyalahgunaan Sistem AI
Pakar kecerdasan buatan (AI) memperingatkan bahwa persaingan ketat di antara raksasa teknologi dapat meningkatkan penyalahgunaan sistem AI. Yoshua Bengio, pionir AI modern, mengkhawatirkan kemajuan pesat teknologi ini dan munculnya DeepSeek, startup asal Tiongkok yang menantang dominasi AS.
Perhatian Terhadap Keamanan dan Etika dalam Pengembangan AI
Bengio menegaskan perlunya perhatian lebih terhadap aspek keamanan serta etika dalam pengembangan AI. Ia memperingatkan bahwa perusahaan-perusahaan AS mungkin mulai mengabaikan faktor keselamatan demi mengejar kembali keunggulan mereka.
Dampak Persaingan Ketat terhadap Keamanan AI
Bengio menjelaskan bahwa persaingan ketat justru memperburuk situasi dari segi keamanan AI. Jika dua pesaing berada di tingkat yang sama, maka keduanya akan terpaksa mempercepat pengembangan, sehingga faktor keamanan bisa terabaikan demi mencapai dominasi lebih cepat.
Laporan Internasional tentang Keamanan AI
Laporan internasional pertama mengenai keamanan AI, yang dipimpin oleh Bengio dan 96 pakar lainnya, menyoroti risiko AI dalam KTT Keamanan AI 2023 di Bletchley Park. Laporan ini memperingatkan potensi penggunaan AI dalam serangan siber dan pengembangan senjata biologis.
Manfaat dan Risiko Penggunaan AI
Laporan tersebut juga memperingatkan bahwa AI kini dapat menghasilkan instruksi perinci untuk menciptakan ancaman biologis yang melampaui keahlian para pakar. Meski menyoroti risiko, laporan ini juga menekankan manfaat AI, khususnya dalam dunia medis.
KTT Global AI di Paris
KTT global AI berikutnya dijadwalkan berlangsung pada Februari mendatang di Paris. Acara ini diharapkan dapat membahas lebih lanjut mengenai keamanan dan pengembangan AI di masa depan.
(fab/fab)
Next Article
AI China Bikin Amerika Ketar-Ketir, Ini Bukti Nyatanya