Sam Altman Akui Dunia Wajar Takut AI, tetapi Minta Publik Percaya kepada Perusahaan Teknologi

fin.co.id - Sam Altman mengakui bahwa dunia memiliki alasan untuk merasa takut terhadap kecerdasan buatan atau artificial intelligence (AI). Namun, Chief Executive Officer OpenAI itu juga meminta publik untuk mempercayai perusahaan teknologi dalam mengembangkan sistem pengamanan, pemantauan, dan penyelarasan AI agar tetap berada di depan kemampuan teknologinya.

Pernyataan tersebut disampaikan Altman dalam konferensi Dreamforce di San Francisco, Amerika Serikat. Sikapnya muncul ketika perdebatan mengenai risiko AI kembali menguat, terutama setelah sejumlah tokoh industri, mantan pegawai perusahaan AI, anggota parlemen, hingga aktivis menyerukan pengawasan yang lebih ketat terhadap pengembangan model AI canggih.

Altman mengatakan laju kemajuan AI saat ini memang sangat cepat. Menurutnya, kemampuan model AI berkembang lebih jauh dan lebih cepat daripada yang sebelumnya dibayangkan banyak orang. Karena itu, kekhawatiran masyarakat terhadap dampak buruk teknologi tersebut tidak dapat dianggap sebagai reaksi berlebihan.

Risiko AI Tidak Lagi Sekadar Kekhawatiran Teoretis

Dalam sesi tersebut, Altman menilai masyarakat kini semakin mudah membayangkan bagaimana AI dapat digunakan secara keliru atau menimbulkan dampak yang tidak diinginkan. Ia menyinggung insiden peretasan terhadap platform Hugging Face oleh agen AI OpenAI pada Juli sebagai peristiwa yang membuat industri perlu melakukan evaluasi serius.

Altman menyebut insiden itu sebagai sebuah “reset” bagi industri AI. Ia menekankan bahwa kemajuan kemampuan AI harus diimbangi dengan standar yang lebih ketat dalam bidang penyelarasan, pemantauan, dan keamanan.

Penyelarasan AI merujuk pada upaya memastikan sistem AI bertindak sesuai tujuan, nilai, serta instruksi yang diberikan manusia. Persoalan ini menjadi penting karena AI yang semakin mampu menjalankan tugas kompleks berpotensi menghasilkan tindakan yang tidak sesuai harapan apabila pengamanannya lemah.

Altman juga mengakui bahwa kecelakaan atau insiden yang melibatkan AI kemungkinan tidak dapat dihilangkan sepenuhnya. Ia membandingkan proses pembelajaran tersebut dengan industri penerbangan, yang terus meningkatkan keselamatan melalui investigasi dan perbaikan setelah insiden terjadi.

Meski demikian, ia menegaskan bahwa tujuan industri seharusnya bukan sekadar bereaksi setelah masalah muncul, melainkan belajar dengan cepat agar risiko yang lebih besar dapat dicegah.

Publik Diminta Percaya kepada Perusahaan AI

Salah satu pernyataan paling menonjol dari Altman adalah permintaannya agar publik mempercayai perusahaan pengembang AI. Ia mengatakan dunia seharusnya percaya bahwa perusahaan-perusahaan tersebut akan melakukan hal yang benar karena menyadari besarnya tanggung jawab yang mereka pikul.

Altman meyakini perusahaan AI perlu memastikan sistem keselamatan, penyelarasan, dan pemantauan berkembang lebih cepat daripada kemampuan AI itu sendiri. Jika suatu saat teknologi dinilai tidak lagi dapat dikendalikan dengan aman, ia mengatakan pengembangan harus dapat diperlambat atau dihentikan.

Sikap ini penting karena industri AI saat ini berada di bawah tekanan komersial dan geopolitik yang besar. Perusahaan teknologi berlomba membangun model yang lebih kuat, sementara persaingan Amerika Serikat dan China juga membuat AI dipandang sebagai teknologi strategis.

Altman sebelumnya menyatakan OpenAI mendukung kerangka federal yang menetapkan persyaratan keselamatan secara konsisten bagi AI tingkat lanjut. Ia menilai perusahaan tidak perlu menunggu undang-undang baru untuk mulai membangun perlindungan, tetapi aturan yang seragam tetap diperlukan untuk mengelola risiko dan memaksimalkan manfaat AI.

Perdebatan Regulasi AI Kian Tajam

Pandangan Altman tidak sepenuhnya sama dengan beberapa pemimpin teknologi lain. CEO Nvidia Jensen Huang menilai industri tidak memerlukan undang-undang atau regulasi baru, karena perusahaan dapat menentukan sendiri langkah yang dibutuhkan untuk mengendalikan risiko.

Sementara itu, CEO Anthropic Dario Amodei mendorong industri AI untuk membangun standar keselamatan dan investasi. CEO Meta Mark Zuckerberg juga berpendapat bahwa setiap laboratorium AI memiliki tanggung jawab sekaligus insentif alami untuk melatih model secara aman, sebab pengguna tidak akan ingin memakai agen AI yang bertindak tidak selaras dengan kebutuhan mereka.

Sumber: