Perusahaan Intelijen Buatan (AI) Anthropic telah mengungkapkan bahwa aktor ancaman yang tidak diketahui memanfaatkan chatbot Claude-nya untuk operasi “pengaruh-sebagai-layanan” untuk terlibat dengan akun otentik di seluruh Facebook dan X.
Kegiatan yang canggih, dicap sebagai motivasi finansial, dikatakan telah menggunakan alat AI-nya untuk mengatur 100 orang berbeda di dua platform media sosial, menciptakan jaringan “akun yang selaras secara politis” yang terlibat dengan “10-an ribuan” akun otentik.
Operasi yang sekarang terganggu, kata para peneliti antropik, memprioritaskan kegigihan dan umur panjang daripada vitalitas dan berusaha untuk memperkuat perspektif politik moderat yang mendukung atau merusak kepentingan Eropa, Iran, Uni Emirat Arab (UEA), dan kepentingan Kenya.
Ini termasuk mempromosikan UEA sebagai lingkungan bisnis yang unggul sambil kritis terhadap kerangka kerja peraturan Eropa, fokus pada narasi keamanan energi untuk audiens Eropa, dan narasi identitas budaya untuk audiens Iran.
Upaya ini juga mendorong narasi yang mendukung tokoh -tokoh Albania dan mengkritik tokoh -tokoh oposisi di negara Eropa yang tidak ditentukan, serta menganjurkan inisiatif pembangunan dan tokoh -tokoh politik di Kenya. Operasi pengaruh ini konsisten dengan kampanye yang berafiliasi dengan negara, meskipun tepatnya siapa yang berada di belakang mereka masih belum diketahui, tambahnya.
“Yang terutama baru adalah bahwa operasi ini menggunakan Claude tidak hanya untuk pembuatan konten, tetapi juga untuk memutuskan kapan akun bot media sosial akan berkomentar, seperti, atau membagikan kembali posting dari pengguna media sosial yang otentik,” kata perusahaan tersebut.
“Claude digunakan sebagai orkestrator yang memutuskan tindakan apa yang harus diambil oleh akun Media Sosial Bot berdasarkan kepribadian yang bermotivasi politik.”
Penggunaan Claude sebagai pembuat keputusan keterlibatan taktis, chatbot telah digunakan untuk menghasilkan tanggapan yang selaras secara politis yang sesuai dalam suara persona dan bahasa asli, dan membuat petunjuk untuk dua alat generasi gambar yang populer.
Operasi ini diyakini sebagai pekerjaan layanan komersial yang melayani klien yang berbeda di berbagai negara. Setidaknya empat kampanye yang berbeda telah diidentifikasi menggunakan kerangka kerja terprogram ini.
“Operasi ini menerapkan pendekatan berbasis JSON yang sangat terstruktur untuk manajemen kepribadian, memungkinkannya untuk mempertahankan kesinambungan di seluruh platform dan membangun pola keterlibatan yang konsisten yang meniru perilaku manusia yang otentik,” kata para peneliti Ken Lebedev, Alex Moix, dan Jacob Klein.
“Dengan menggunakan kerangka kerja terprogram ini, operator dapat secara efisien menstandarkan dan mengukur upaya mereka dan memungkinkan pelacakan dan memperbarui atribut kepribadian, riwayat keterlibatan, dan tema naratif di berbagai akun secara bersamaan.”
Aspek lain yang menarik dari kampanye ini adalah bahwa itu “secara strategis” menginstruksikan akun otomatis untuk merespons dengan humor dan sarkasme untuk tuduhan dari akun lain bahwa mereka mungkin bot.
Antropik mengatakan operasi ini menyoroti perlunya kerangka kerja baru untuk mengevaluasi pengaruh operasi yang berputar di sekitar pembangunan hubungan dan integrasi masyarakat. Ia juga memperingatkan bahwa kegiatan jahat yang serupa bisa menjadi umum di tahun -tahun mendatang karena AI menurunkan penghalang lebih jauh untuk melakukan pengaruh kampanye.
Di tempat lain, perusahaan mencatat bahwa mereka melarang aktor ancaman yang canggih menggunakan modelnya untuk mengikis kata sandi dan nama pengguna yang bocor yang terkait dengan kamera keamanan dan merancang metode untuk memaksa target yang menghadap ke internet menggunakan kredensial curian.
Aktor ancaman lebih lanjut mempekerjakan Claude untuk memproses posting dari log pencuri informasi yang diposting di telegram, membuat skrip untuk mengikis URL target dari situs web, dan meningkatkan sistem mereka sendiri ke fungsi pencarian yang lebih baik.
Dua kasus penyalahgunaan lain yang terlihat oleh antropik pada bulan Maret 2025 tercantum di bawah ini –
- Kampanye penipuan perekrutan yang memanfaatkan Claude untuk meningkatkan konten penipuan yang menargetkan pencari kerja di negara -negara Eropa Timur
- Aktor pemula yang memanfaatkan Claude untuk meningkatkan kemampuan teknis mereka untuk mengembangkan malware canggih di luar tingkat keterampilan mereka dengan kemampuan untuk memindai web gelap dan menghasilkan muatan berbahaya yang tidak terdeteksi yang dapat menghindari kontrol keamanan dan mempertahankan akses persisten jangka panjang ke sistem yang dikompromikan
“Kasus ini menggambarkan bagaimana AI berpotensi meratakan kurva belajar untuk aktor jahat, yang memungkinkan individu dengan pengetahuan teknis terbatas untuk mengembangkan alat canggih dan berpotensi mempercepat perkembangan mereka dari kegiatan tingkat rendah ke upaya penjahat cyber yang lebih serius,” kata Anthopic.
