OpenAI, pengembang ChatGPT, kini tengah terlibat dalam beberapa proyek bersama Pentagon, termasuk pengembangan kemampuan keamanan siber. Ini merupakan perubahan dari kebijakan sebelumnya yang melarang penggunaan kecerdasan buatan (AI)-nya untuk kepentingan militer.

Baca Juga : Awas Video “HOAX” Najwa Shihab, Raffi Ahmad, dan Atta Halilintar Promosikan Situs Judi Online

Dilansir dari Business Times, Anna Makanju, Wakil Presiden Urusan Global perusahaan ini, mengungkapkan bahwa OpenAI sedang mengembangkan alat-alat dengan Departemen Pertahanan Amerika Serikat untuk perangkat lunak keamanan siber sumber terbuka. Makanju juga menjelaskan bahwa perusahaan ini telah melakukan pembicaraan awal dengan pemerintah AS mengenai metode untuk mencegah bunuh diri veteran.

Beberapa waktu yang lalu, OpenAI menghapus ketentuan dalam syarat penggunaannya yang melarang penggunaan AI-nya untuk aplikasi “militer dan perang.” Makanju menjelaskan keputusan ini sebagai bagian dari pembaruan kebijakan perusahaan untuk menyesuaikan dengan penggunaan baru dari ChatGPT dan alat-alat lainnya.

“Karena sebelumnya kami melarang penggunaan militer secara umum, banyak orang berpikir bahwa hal itu akan melarang banyak kasus penggunaan ini, yang dianggap sangat sejalan dengan apa yang ingin kita lihat di dunia,” ujarnya. Namun, OpenAI tetap melarang penggunaan teknologinya untuk pengembangan senjata, merusak properti, atau menyakiti orang, tambah Makanju.

Microsoft, investor terbesar OpenAI, memberikan beberapa kontrak perangkat lunak kepada angkatan bersenjata AS dan cabang pemerintah lainnya. Selain itu, OpenAI juga mengumumkan bahwa mereka mempercepat karyanya dalam keamanan pemilihan, mengalokasikan sumber daya untuk memastikan bahwa alat generatif AI mereka tidak digunakan untuk menyebarkan disinformasi politik.

Baca Juga : Ganjar Pranowo Tanggapi Diretasnya Akun Instagram Mahfud MD: Keamanan Siber Jadi Perhatian Serius

Dikutip dari The Intercept, Direktur Teknik Keamanan Siber Trail of Bits Heidy Khalaf mengatakan pembaharuan kebijakan layanan ini masih bisa menimbulkan potensi yang cukup berbahaya karena lebih mementingkan legalitas daripada keselamatan. Menurutnya, larangan yang tercantum dalam aturan OpenAI belum mencakup semua aspek penggunaan militer, sehingga masih bisa digunakan untuk tujuan yang dianggap merugikan bagi beberapa orang atau negara lain. Heidy menambahkan, belum lagi adanya potensi bias dan halusinasi yang terdapat di Model Bahasa Besar (LLM).

“Bias dan halusinasi yang terdapat dalam Model Bahasa Besar (LLM), dan kurangnya keakuratan, penggunaannya dalam peperangan militer hanya akan menghasilkan operasi yang tidak tepat dan bias yang cenderung memperburuk kerugian dan korban sipil,” ujarnya seperti yang dikutip dari The Intercept.