JAWA TENGAH — Anthropic merilis sistem open source bernama FlashProve yang memungkinkan siapa pun membuktikan secara kriptografis bahwa sebuah output AI benar-benar dihasilkan oleh model yang diklaim. Spesifikasi teknis dan kode kerja sistem ini sudah tersedia di GitHub, meski perusahaan menegaskan belum ada rencana penerapan komersial dalam waktu dekat. Inisiatif ini menyasar celah kepercayaan di pasar AI, tempat pengguna dan pelaku bisnis makin sulit membedakan model asli dari tiruan.
FlashProve dibangun untuk menghadirkan apa yang peneliti Anthropic sebut sebagai "provable inference" — jaminan matematis bahwa suatu respons berasal dari model tertentu. Konsepnya mirip tanda tangan kriptografis pada surel, yang membuat penerima bisa memastikan pesan benar-benar datang dari pengirim yang diklaim.
Sistem ini dirancang tahan terhadap upaya penyamaran model, termasuk bila pihak yang mencoba menipu adalah laboratorium AI yang membangun dan menjalankan model tersebut. Peneliti menyebut skenario seperti itu bukan hal teoretis.
Mencegah Model Murah Disamarkan sebagai Model Mahal
Menurut para peneliti, FlashProve bisa dipakai untuk mencegah perusahaan AI diam-diam mengganti model dengan versi lebih murah demi menekan biaya. Sebaliknya, sistem juga bisa mendeteksi bila sebuah layanan menyelundupkan model mahal untuk mempercantik hasil pengujian performa.
Fungsi lain menyasar klaim pihak ketiga. Seorang pengembang bisa mengklaim pustaka perangkat lunaknya telah dipindai kerentanannya oleh model keamanan siber terdepan. Perusahaan lain bisa menyatakan rencana bisnisnya sudah disetujui model tertentu. "Bagaimana pengguna bisa memverifikasi klaim-klaim ini?" tulis para peneliti dalam pengumuman resmi mereka.
Cara Kerja: Sidik Jari Model Tanpa Membocorkan Bobot
Agar bisa berfungsi, laboratorium AI perlu menerbitkan "sidik jari" untuk setiap model yang dirilis. Sidik jari itu nantinya dicocokkan dengan output spesifik dan diverifikasi secara kriptografis.
Bagian krusialnya, sidik jari tersebut tidak mengungkap bobot model — deretan angka internal yang menentukan perilaku model dan selama ini dijaga ketat oleh pengembang model tertutup seperti Anthropic dan OpenAI. Artinya, laboratorium bisa menerbitkan sidik jari tanpa menyerahkan aset paling berharga mereka, sehingga sistem tetap bisa dipakai pada model komersial.
FlashProve juga dirancang ringan. Verifikasi dapat dilakukan langsung di perangkat lokal, bukan harus mengandalkan server pihak ketiga. Pendekatan ini penting bagi pengguna smartphone dan pelaku bisnis yang butuh kepastian cepat tanpa menambah beban infrastruktur.
Status Pengembangan dan Keterbukaan Kode
Anthropic merilis spesifikasi teknis rinci bersama kode kerja untuk berbagai elemen sistem. Seluruhnya tersedia publik di GitHub dengan lisensi open source.
Perusahaan menegaskan riset masih berjalan dan belum ada rencana men-deploy FlashProve di Anthropic maupun laboratorium lain. "Pos riset ini dimaksudkan untuk membagikan kemajuan antara, bukan agenda riset yang sudah selesai," jelas para peneliti. "Kami membagikannya secara eksplisit dengan tujuan agar pihak lain melihat apa yang kami kerjakan, mengambilnya, dan memperbaikinya."
Bagi ekosistem AI Indonesia, kerangka verifikasi semacam ini berpotensi relevan ketika layanan berbasis model bahasa makin marak di pasar lokal. Pelaku bisnis digital yang mengandalkan API model pihak ketiga punya kepentingan langsung untuk memastikan model yang mereka bayar memang model yang dijanjikan penyedia.
