Microsoft dan OpenAI berkata penggodam menggunakan ChatGPT untuk Serangan Siber

Microsoft dan OpenAI telah memberi amaran bahawa penggodam negara bangsa mempersenjatai kecerdasan buatan (AI) dan model bahasa besar (LLM) untuk meningkatkan serangan siber mereka yang berterusan.

Menurut kajian yang dijalankan oleh Microsoft Threat Intelligence dengan kerjasama OpenAI, kedua-dua syarikat itu telah mengenal pasti dan mengganggu lima pelakon gabungan kerajaan yang ingin menggunakan perkhidmatan AI untuk menyokong aktiviti siber berniat jahat.

Pelakon yang bersekutu dengan negara ini dikaitkan dengan negara seperti Rusia, Korea Utara, Iran dan China.

Lima pelakon berniat jahat yang bersekutu dengan kerajaan termasuk dua pelakon ancaman yang bersekutu dengan China yang dikenali sebagai Charcoal Typhoon (CHROMIUM) dan Salmon Typhoon (SODIUM); pelakon ancaman gabungan Iran yang dikenali sebagai Crimson Sandstorm (CURIUM); pelakon gabungan Korea Utara yang dikenali sebagai Emerald Sleet (THALLIUM); dan pelakon gabungan Rusia yang dikenali sebagai Forest Blizzard (STRONTIUM).

Sebagai contoh, OpenAI melaporkan bahawa Charcoal Typhoon China menggunakan perkhidmatannya untuk menyelidik pelbagai syarikat dan alatan keselamatan siber, menyahpepijat kod dan menjana skrip, dan mencipta kandungan yang mungkin digunakan dalam kempen pancingan data.

Contoh lain ialah Crimson Sandstorm Iran, yang menggunakan LLM untuk menjana coretan kod yang berkaitan dengan pembangunan aplikasi dan web, menjana kandungan yang mungkin untuk kempen pancingan data lembing dan untuk bantuan dalam membangunkan kod untuk mengelak pengesanan.

Di samping itu, Forest Blizzard, kumpulan negara bangsa Rusia, dikatakan telah menggunakan perkhidmatan OpenAI terutamanya untuk penyelidikan sumber terbuka ke dalam protokol komunikasi satelit dan teknologi pengimejan radar, serta untuk sokongan dengan tugas skrip.

OpenAI berkata pada hari Rabu bahawa ia telah menamatkan akaun OpenAI yang dikenal pasti yang dikaitkan dengan pelakon penggodam tajaan kerajaan. Pelakon ini secara amnya berusaha menggunakan perkhidmatan OpenAI untuk menanyakan maklumat sumber terbuka, menterjemahkan, mencari ralat pengekodan dan menjalankan tugas pengekodan asas, kata firma AI itu.

"Sokongan bahasa ialah ciri semula jadi LLM dan menarik untuk pelaku ancaman dengan tumpuan berterusan pada kejuruteraan sosial dan teknik lain yang bergantung pada komunikasi palsu dan menipu yang disesuaikan dengan pekerjaan sasaran mereka, rangkaian profesional dan hubungan lain. Yang penting, penyelidikan kami dengan OpenAI tidak mengenal pasti serangan ketara yang menggunakan LLM yang kami pantau dengan teliti, " baca laporan keselamatan AI baharu yang dikeluarkan oleh Microsoft pada hari Rabu dengan kerjasama OpenAI.

Syukurlah, tiada serangan penting atau baru yang menggunakan teknologi LLM telah dikesan lagi, menurut syarikat itu. "Analisis kami tentang penggunaan semasa teknologi LLM oleh pelaku ancaman mendedahkan tingkah laku yang konsisten dengan penyerang yang menggunakan AI sebagai alat produktiviti lain. Microsoft dan OpenAI masih belum memerhatikan teknik serangan atau penyalahgunaan yang didayakan AI yang baru atau unik hasil daripada penggunaan AI oleh pelaku ancaman, " kata Microsoft dalam laporannya.

Untuk bertindak balas terhadap ancaman itu, Microsoft telah mengumumkan satu set prinsip yang membentuk dasar dan tindakannya untuk memerangi penyalahgunaan perkhidmatan AInya oleh ancaman berterusan lanjutan (APT) negara bangsa, manipulator berterusan lanjutan (APM) dan sindiket jenayah siber.

"Prinsip ini termasuk pengenalpastian dan tindakan terhadap pemberitahuan penggunaan pelaku ancaman berniat jahat kepada penyedia perkhidmatan AI lain, kerjasama dengan pihak berkepentingan lain dan ketelusan," kata gergasi Redmond itu.