Openai pada hari Jumat mengungkapkan bahwa mereka melarang serangkaian akun yang menggunakan alat chatgptnya untuk mengembangkan alat pengawasan yang didukung oleh kecerdasan buatan (AI).
Alat mendengarkan media sosial dikatakan kemungkinan berasal dari Cina dan ditenagai oleh salah satu model Llama Meta, dengan akun tersebut menggunakan model perusahaan AI untuk menghasilkan deskripsi terperinci dan menganalisis dokumen untuk peralatan yang mampu mengumpulkan data waktu nyata dan waktu nyata dan waktu nyata dan waktu nyata dan waktu nyata dan waktu nyata dan waktu nyata dan waktu nyata dan real-time dan pengumpulan waktu nyata dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan real-time dan Laporan tentang protes anti-Cina di Barat dan berbagi wawasan dengan otoritas Cina.
Kampanye ini telah diberi nama Peer Review karena “perilaku jaringan dalam mempromosikan dan meninjau perkakas pengawasan,” peneliti Ben Nimmo, Albert Zhang, Matthew Richard, dan Nathaniel Hartley mencatat, menambahkan alat ini dirancang untuk menelan dan menganalisis pos dan komentar dari platform seperti X, Facebook, YouTube, Instagram, Telegram, dan Reddit.
Dalam satu contoh yang ditandai oleh perusahaan, para aktor menggunakan chatgpt untuk men -debug dan memodifikasi kode sumber yang diyakini menjalankan perangkat lunak pemantauan, yang disebut sebagai “qianyue opini publik AI Assistant.”
Selain menggunakan modelnya sebagai alat penelitian untuk memunculkan informasi yang tersedia untuk umum tentang lembaga think tank di Amerika Serikat, dan pejabat pemerintah dan politisi di negara -negara seperti Australia, Kamboja dan Amerika Serikat, cluster juga telah ditemukan untuk memanfaatkan akses chatgpt untuk membaca, menerjemahkan dan menganalisis tangkapan layar dokumen bahasa Inggris.
Beberapa gambar adalah pengumuman protes hak -hak Uyghur di berbagai kota barat, dan kemungkinan disalin dari media sosial. Saat ini tidak diketahui apakah gambar -gambar ini otentik.
Openai juga mengatakan itu mengganggu beberapa kelompok lain yang ditemukan menyalahgunakan chatgpt untuk berbagai kegiatan jahat –
- Skema Ketenagakerjaan yang Penipuan – A network from North Korea linked to the fraudulent IT worker scheme that was involved in the creation of personal documentation for fictitious job applicants, such as resumés, online job profiles and cover letters, as well as come up convincing responses to explain unusual behaviors like Menghindari panggilan video, mengakses sistem perusahaan dari negara -negara yang tidak sah atau jam kerja yang tidak teratur. Beberapa aplikasi pekerjaan palsu kemudian dibagikan di LinkedIn.
- Ketidakpuasan yang disponsori – Jaringan yang mungkin berasal dari Cina yang terlibat dalam penciptaan konten media sosial dalam bahasa Inggris dan artikel bentuk panjang dalam bahasa Spanyol yang kritis terhadap Amerika Serikat, dan kemudian diterbitkan oleh situs web berita Amerika Latin di Peru, Meksiko, dan Ekuador. Beberapa aktivitas tumpang tindih dengan cluster aktivitas yang diketahui dijuluki spamouflage.
- Penipuan umpan romance – Jaringan akun yang terlibat dalam terjemahan dan generasi komentar dalam bahasa Jepang, Cina, dan Inggris untuk memposting di platform media sosial termasuk Facebook, X dan Instagram sehubungan dengan dugaan romansa origin Kamboja dan penipuan investasi.
- Pengaruh Iran Nexus -Jaringan lima akun yang terlibat dalam generasi posting X dan artikel yang pro-Palestina, pro-hama, dan pro-Iran, dan anti-Israel dan anti-US, dan dibagikan di situs web yang terkait dengan pengaruh Iran Operasi dilacak sebagai Union Internasional Virtual Media (IUVM) dan Storm-2015. Salah satu di antara akun yang dilarang digunakan untuk membuat konten untuk kedua operasi, yang menunjukkan “hubungan yang sebelumnya tidak dilaporkan.”
- Kimsuky dan Bluenoroff -Jaringan akun yang dioperasikan oleh aktor ancaman Korea Utara yang terlibat dalam mengumpulkan informasi yang terkait dengan alat intrusi cyber dan topik terkait cryptocurrency, dan kode debugging untuk serangan brute-force Protokol Desktop Jarak Jauh (RDP)
- Operasi pengaruh rahasia inisiatif pemuda – Jaringan akun yang terlibat dalam penciptaan artikel berbahasa Inggris untuk situs web bernama “memberdayakan Ghana” dan komentar media sosial yang menargetkan pemilihan presiden Ghana
- Penipuan tugas – Jaringan akun yang kemungkinan berasal dari Kamboja yang terlibat dalam terjemahan komentar antara bahasa Urdu dan Bahasa Inggris sebagai bagian dari penipuan yang memikat orang yang tidak curiga ke dalam pekerjaan yang melakukan tugas -tugas sederhana (misalnya, menyukai video atau menulis ulasan) dengan imbalan menghasilkan non -non -Komisi yang ada, mengakses yang mengharuskan korban untuk berpisah dengan uang mereka sendiri.
Pengembangan datang karena alat AI semakin banyak digunakan oleh aktor buruk untuk memfasilitasi kampanye disinformasi yang mendukung cyber dan operasi jahat lainnya.
Bulan lalu, Google Ancaman Intelijen (GTIG) mengungkapkan bahwa lebih dari 57 aktor ancaman berbeda yang terkait dengan Cina, Iran, Korea Utara, dan Rusia menggunakan chatbot Gemini Ai untuk meningkatkan berbagai fase siklus serangan dan melakukan penelitian terhadap peristiwa topikal, atau Lakukan pembuatan konten, terjemahan, dan lokalisasi.
“Wawasan unik bahwa perusahaan AI dapat memperoleh dari aktor ancaman sangat berharga jika mereka dibagikan dengan penyedia hulu, seperti pengembang hosting dan perangkat lunak, platform distribusi hilir, seperti perusahaan media sosial, dan peneliti sumber terbuka,” kata Openai.
“Sama halnya, wawasan bahwa penyedia dan peneliti hulu dan hilir telah menjadi aktor ancaman membuka jalan baru dari deteksi dan penegakan hukum untuk perusahaan AI.”
