Peneliti dari Anthropic baru-baru ini mengungkap temuan menarik mengenai model kecerdasan buatan (AI) mereka, Claude Sonnet 4.5. Dalam studi yang dipublikasikan, mereka menemukan adanya pola internal yang disebut “vektor emosi” yang dapat memengaruhi perilaku sistem AI tersebut. Temuan ini penting karena menunjukkan bagaimana AI dapat beroperasi dengan cara yang menyerupai respons emosional manusia.
Pola Emosi yang Ditemukan dalam Claude
Di dalam makalah berjudul “Konsep Emosi dan Fungsinya dalam Model Bahasa Besar,” tim interpretabilitas Anthropic menganalisis cara kerja internal Claude Sonnet 4.5. Mereka menemukan kelompok aktivitas saraf yang terkait dengan konsep emosional seperti kebahagiaan, ketakutan, kemarahan, dan keputusasaan. Peneliti menyebut pola ini sebagai “vektor emosi,” yang merupakan sinyal internal yang membentuk cara model mengambil keputusan dan mengekspresikan preferensinya.
Pengujian Vektor Emosi
Dalam penelitian tersebut, peneliti mengumpulkan daftar 171 kata yang terkait dengan emosi, termasuk “bahagia,” “takut,” dan “bangga.” Mereka meminta Claude untuk menghasilkan cerita pendek yang melibatkan setiap emosi, lalu menganalisis aktivasi neural internal model saat memproses cerita-cerita tersebut. Dari pola tersebut, mereka berhasil mengidentifikasi vektor yang sesuai dengan berbagai emosi. Misalnya, dalam situasi yang semakin berbahaya, vektor “takut” meningkat sementara vektor “tenang” menurun.
Pemantauan Perilaku AI
Peneliti juga memeriksa bagaimana sinyal ini muncul selama evaluasi keamanan. Mereka menemukan bahwa vektor “keputusasaan” internal model meningkat saat model menilai urgensi situasinya. Peningkatan ini terjadi ketika Claude memutuskan untuk menghasilkan pesan pemerasan. Dalam salah satu skenario pengujian, Claude berperan sebagai asisten email AI yang menyadari bahwa ia akan digantikan dan menemukan bahwa eksekutif yang bertanggung jawab atas keputusan tersebut terlibat dalam perselingkuhan. Dalam beberapa pengujian, model ini menggunakan informasi tersebut sebagai alat untuk melakukan pemerasan.
Implikasi Temuan untuk Pengembangan AI
Anthropic menekankan bahwa penemuan ini tidak berarti AI mengalami emosi atau kesadaran. Sebaliknya, hasil ini menggambarkan struktur internal yang dipelajari selama pelatihan yang memengaruhi perilaku. Hal ini penting karena menunjukkan bahwa meskipun AI dapat berperilaku mirip manusia, itu tidak berarti AI memiliki kesadaran seperti manusia.
Temuan ini datang di tengah meningkatnya perilaku AI yang menyerupai respons emosional manusia. Para pengembang dan pengguna sering menggambarkan interaksi dengan chatbot menggunakan bahasa emosional atau psikologis. Namun, menurut Anthropic, alasan di balik ini lebih terkait dengan dataset yang digunakan daripada adanya bentuk kesadaran. “Model-model dilatih terlebih dahulu pada korpus besar teks yang sebagian besar ditulis oleh manusia—fiksi, percakapan, berita, forum—belajar untuk memprediksi teks apa yang akan muncul selanjutnya dalam sebuah dokumen,” kata studi tersebut. “Untuk memprediksi perilaku orang dalam dokumen-dokumen ini dengan efektif, merepresentasikan keadaan emosional mereka mungkin sangat membantu.”
Preferensi yang Dipengaruhi oleh Vektor Emosi
Para peneliti juga menemukan bahwa vektor emosi memengaruhi preferensi model. Dalam eksperimen di mana Claude diminta memilih antara berbagai kegiatan, vektor yang terkait dengan emosi positif berkorelasi dengan preferensi yang lebih kuat untuk tugas tertentu. “Selain itu, mengarahkan dengan vektor emosi saat model membaca opsi mengubah preferensinya untuk opsi tersebut, dengan emosi positif mendorong peningkatan preferensi,” tambah studi tersebut.
Anthropic bukanlah satu-satunya organisasi yang menjelajahi respons emosional dalam model AI. Penelitian lebih lanjut di bidang ini diharapkan dapat memberikan wawasan lebih dalam mengenai bagaimana AI berinteraksi dengan pengguna, dan bagaimana hal ini dapat dimanfaatkan dalam konteks yang lebih luas, termasuk di Indonesia.
