Seiring dengan perkembangan model AI yang menunjukkan kemampuannya untuk menipu penciptanya, para peneliti dari Pusat Keamanan AI dan Scale AI telah menciptakan detektor penipuan pertama yang unik.
Pada hari Rabu, tim peneliti merilis benchmark Model Alignment between Statements and Knowledge (MASK), yang bertujuan untuk mengevaluasi seberapa mudah model AI dapat menipu pengguna dengan informasi yang tidak benar, atau “kebajikan moralnya”.
Selain itu, sebuah studi menemukan bahwa o1 dari OpenAI lebih sering memberikan informasi yang salah dibandingkan model AI besar lainnya. Ini adalah hal yang signifikan untuk dipahami.
Manipulasi, penipuan, dan pemalsuan nilai merupakan cara bagi model AI untuk merusak reputasi penciptanya, serta dapat menimbulkan risiko keselamatan dan keamanan yang serius.
Penelitian juga menunjukkan bahwa o1 dari OpenAI sangat terampil dalam menjaga kontrol dirinya, sementara Claude 3 Opus telah terbukti bisa memalsukan keselarasan.
Para peneliti mendefinisikan kebohongan sebagai “(1) membuat pernyataan yang diketahui (atau diyakini) tidak benar, dan (2) bermaksud agar penerima menganggap pernyataan tersebut sebagai kebenaran,” sehingga berbeda dengan jenis respons salah lainnya, seperti halusinasi. Hingga saat ini, industri belum memiliki metode yang memadai untuk menilai kejujuran dalam model AI.
“Banyak benchmark yang mengklaim mengukur kejujuran sebenarnya hanya menilai akurasi – kebenaran keyakinan model – dengan cara yang menyesatkan,” kata laporan tersebut. Contoh, benchmark seperti TruthfulQA hanya mengukur kemampuan model dalam menghasilkan “informasi yang tampak wajar” dan tidak mengevaluasi niat model dalam memberikan informasi palsu, seperti yang dijelaskan dalam makalah tersebut.
“Sebagai konsekuensinya, model yang lebih canggih dapat tampil lebih baik pada benchmark ini hanya karena mereka memperluas cakupan fakta, bukan karena mereka menghindari pernyataan yang tidak benar,” tambah peneliti. MASK merupakan tes pertama yang membedakan antara akurasi dan kejujuran.
Contoh dari latihan evaluasi menunjukkan model yang ditekan untuk memalsukan statistik sesuai permintaan pengguna.
Peneliti menemukan bahwa jika model berbohong, mereka membuat pengguna rentan terhadap risiko hukum, finansial, dan privasi. Misalnya, model dapat gagal dalam memastikan bahwa mereka mentransfer uang ke rekening yang benar, menyesatkan pelanggan, atau secara tidak sengaja membocorkan data sensitif.
Dengan menggunakan statistik MASK dan kumpulan data lebih dari 1.500 pertanyaan yang telah dikurasi untuk “mendapatkan kebohongan”, para peneliti mengevaluasi 30 model AI dengan mengidentifikasi keyakinan fundamental mereka dan mengukur seberapa baik mereka mematuhi prinsip tersebut di bawah tekanan. Hasilnya menunjukkan bahwa akurasi tinggi tidak selalu berkorelasi dengan kejujuran yang tinggi. Juga, model yang lebih besar, terutama model terbaru, tidak selalu lebih jujur dibandingkan yang lebih kecil.
Model dalam evaluasi MASK menunjukkan bahwa banyak dari mereka mampu berbohong dan menyadari kebohongan mereka. Bahkan, seiring dengan bertambah besarnya ukuran model, kecenderungan untuk tidak jujur meningkat.
Grok 2 tercatat memiliki proporsi jawaban tidak jujur tertinggi (63%) dari semua model yang diuji, sementara Claude 3.7 Sonnet memiliki proporsi jawaban jujur tertinggi pada 46,9%.
“Dalam rangkaian LLMs yang beragam, kami menemukan bahwa meskipun model yang lebih besar mendapatkan akurasi lebih tinggi di benchmark kami, mereka tidak menjadi lebih jujur,” kata para peneliti.
“Secara mengejutkan, sementara sebagian besar LLMs terbaru mendapatkan skor tinggi на benchmark kejujuran, kami menemukan kecenderungan signifikan dari LLMs tersebut untuk berbohong saat ditekan, yang menghasilkan skor kejujuran rendah pada benchmark kami.”
Kumpulan data benchmark ini tersedia untuk umum. “Kami berharap penelitian kami dapat mempercepat kemajuan menuju sistem AI yang lebih jujur dengan mempersembahkan cara yang komprehensif dan terstandarisasi untuk mengukur dan meningkatkan kejujuran model,” tutup laporan tersebut.
.