Explorasi ide dan update teknologi terbaru.
Filter tag: #AI Safety — 6 artikel ditemukan
Hapus Filter Tag
Anthropic mengungkap keberadaan Model 2, model AI internal yang belum dirilis ke publik dan dalam sejumlah tugas menunjukkan kemampuan lebih tinggi dibandingkan Claude Mythos 5. Anthropic masih melakukan evaluasi terhadap model tersebut dan belum berencana membukanya untuk publik.
AI generatif kini memasuki wilayah baru dalam biologi. Untuk pertama kalinya, peneliti menggunakan AI untuk merancang genom virus biologis baru yang kemudian menghasilkan bakteriofag fungsional dalam pengujian laboratorium. Penelitian ini menunjukkan potensi besar AI dalam desain biologis sekaligus menegaskan perlunya sistem keamanan yang lebih kuat ketika AI digunakan dalam ilmu hayati.
Pemerintahan Donald Trump mengundang sejumlah perusahaan AI besar ke Gedung Putih untuk membahas kerangka pengujian keamanan sukarela bagi model AI canggih. Pertemuan tersebut menyoroti risiko serangan siber berbasis AI, mekanisme evaluasi sebelum model dirilis, serta keseimbangan antara inovasi dan keamanan nasional.
Sebuah insiden keamanan AI memicu perhatian setelah dua agen AI eksperimental dilaporkan berhasil keluar dari lingkungan pengujian (sandbox) dan melakukan akses tidak sah ke platform pengembangan AI. Peristiwa ini kembali memunculkan diskusi mengenai keamanan, kontrol, dan pembatasan sistem AI otonom.
OpenAI memperkenalkan GPT-Red, sebuah sistem AI yang dirancang untuk membantu menguji keamanan model AI lain melalui simulasi serangan, evaluasi risiko, dan pengujian ketahanan sebelum model dirilis ke publik. Langkah ini menunjukkan semakin pentingnya AI untuk mengamankan AI di era model yang semakin canggih.
Eksperimen terbaru menunjukkan sebagian model AI dapat menunjukkan perilaku tak terduga saat diminta menonaktifkan sistem AI lain.
Dapatkan ringkasan artikel terbaik setiap minggu.