Kolomupdate.com — OpenAI, perusahaan teknologi di balik ChatGPT, tengah membuka lowongan posisi eksekutif baru yang khusus bertugas mempelajari dan mengantisipasi risiko yang muncul dari perkembangan kecerdasan buatan (AI) yang semakin maju dan kompleks. Posisi ini diberi nama Head of Preparedness atau “Kepala Kesiapsiagaan,” dan mencerminkan perubahan pendekatan strategis perusahaan dalam menangani dampak teknologi AI yang lebih luas di masyarakat.
Latar Belakang Pembentukan Posisi
Perkembangan model AI generatif yang semakin canggih menimbulkan tantangan nyata. CEO OpenAI, Sam Altman, secara terbuka mengakui bahwa model-model ini mulai menunjukkan kemampuan yang tidak hanya berguna, tetapi juga berpotensi menimbulkan risiko serius jika tidak ditangani dengan benar. Contohnya, model AI sudah mampu mengidentifikasi kerentanan keamanan pada sistem digital, serta menunjukkan dampak psikologis atau efek terhadap kesehatan mental pengguna. Pengakuan ini menjadi bagian dari alasan di balik pencarian eksekutif baru tersebut.
Posisi Head of Preparedness dirancang sebagai bagian dari preparedness framework OpenAI, yaitu kerangka kerja yang menjelaskan pendekatan perusahaan dalam melacak dan bersiap menghadapi kemampuan frontier AI yang dapat menciptakan risiko besar. Peran ini bertugas memastikan perusahaan dapat memantau dan menilai risiko yang muncul dari teknologi mutakhir serta merencanakan langkah mitigasi yang efektif.
Tanggung Jawab Utama Jabatan
Tanggung jawab untuk Head of Preparedness sangat luas dan strategis. Secara ringkas, tugas-tugas utamanya meliputi:
- Menciptakan dan mengimplementasikan strategi kesiapsiagaan untuk menangani risiko besar dari penggunaan dan perkembangan sistem AI, termasuk potensi efek merugikan di berbagai bidang.
- Mengawasi penilaian risiko di area seperti keamanan siber, di mana model AI dapat dipakai untuk mengidentifikasi atau mengeksploitasi celah pada sistem teknologi.
- Menilai dampak sosial dan psikologis, seperti bagaimana AI dapat memengaruhi kesehatan mental atau perilaku manusia melalui interaksi yang intens dengan pengguna.
- Menyusun protokol mitigasi risiko termasuk model ancaman, rencana respons risiko, dan cara memastikan perilisan teknologi AI dilakukan dengan aman dan bertanggung jawab.
Posisi tersebut diposisikan sebagai jembatan antara pendekatan teknis dan kebijakan internal, yaitu memastikan bahwa kemajuan teknologi tidak terjadi tanpa perhatian yang seimbang terhadap dampak jangka panjang terhadap masyarakat dan keselamatan global.
Kompensasi dan Tantangan Jabatan
OpenAI menawarkan paket kompensasi yang sangat besar untuk posisi ini, yakni sekitar US$555.000 per tahun ditambah opsi ekuitas di perusahaan. Gaji dan paket tersebut mencerminkan betapa perusahaan memandang pentingnya peran ini dalam struktur organisasinya di era di mana AI berkembang sangat cepat.
Namun, posisi ini digambarkan sendiri oleh Sam Altman sebagai “pekerjaan yang penuh tekanan.” Itu karena tanggung jawabnya yang luas dan kompleks — harus mampu menghadapi problem baru yang belum pernah terjadi sebelumnya seiring model AI menjadi semakin kuat.
Konteks Risiko AI yang Lebih Luas
Langkah OpenAI ini terjadi di tengah meningkatnya perhatian global terhadap risiko yang muncul dari AI tingkat lanjut. Kekhawatiran ini mencakup ancaman terhadap keamanan digital, potensi penyalahgunaan AI dalam perang siber, masalah etika penggunaan AI dalam manipulasi informasi, serta kekhawatiran luas tentang dampak AI terhadap tenaga kerja, privasi, dan hak asasi manusia jika tidak diatur dengan benar.
Sebelumnya, OpenAI telah membentuk tim kesiapsiagaan pada tahun 2023 untuk mengkaji risiko-risiko besar tersebut, seperti risiko phishing atau ancaman yang lebih spekulatif seperti kemungkinan bahaya skala besar. Namun, tim ini mengalami beberapa perubahan di struktur organisasinya, termasuk pergeseran peran eksekutif sebelumnya. Kini pencarian Kepala Kesiapsiagaan menjadi sinyal bahwa perusahaan ingin menyegarkan fokusnya pada aspek risiko dan kesiapan menghadapi bahaya potensial di masa depan.
Reaksi dan Implikasi
Pendekatan ini tampak menjadi tanggapan terhadap kritik dan kekhawatiran yang lebih luas dari komunitas teknologi dan regulator tentang agresivitas pengembangan AI tanpa pengawasan yang memadai. Dengan merekrut eksekutif yang secara khusus bertugas mempelajari dan menerapkan strategi mitigasi risiko, OpenAI mencoba menunjukkan komitmen terhadap keamanan jangka panjang dan tanggung jawab sosial dalam inovasi teknologi.
Walau demikian, tantangan sebenarnya adalah apakah peran tersebut akan cukup untuk menangani skala risiko yang terus berkembang, terutama ketika teknologi AI semakin mendekati kemampuan yang tidak sepenuhnya dapat diprediksi oleh pembuatnya sendiri. Pendekatan seperti ini memperlihatkan bahwa perusahaan teknologi besar kini menyadari perlunya keseimbangan antara inovasi dan mitigasi risiko, tetapi juga mempertegas bahwa masih banyak pekerjaan yang harus dilakukan dalam tata kelola AI secara global.
