Pekerja Samsung Secara Tidak Sengaja Membocorkan Data Syarikat Sensitif Kepada ChatGPT
Hanya tiga minggu sebelum itu, Samsung telah menarik balik larangan ke atas pekerja menggunakan ChatGPT OpenAI atas kebimbangan privasi data.
Walau bagaimanapun, sejak larangan itu ditarik balik, terdapat tiga kejadian berasingan pekerja Samsung secara tidak sengaja membocorkan maklumat sensitif berkaitan bahagian semikonduktor Samsung kepada ChatGPT dalam tempoh 20 hari, kata laporan daripada The Economist Korea (seperti yang dikesan oleh Mashable).
Larangan itu pada asalnya bertujuan untuk melindungi data syarikat tetapi telah ditarik balik pada 11 Mac 2023, supaya jurutera di bahagian semikonduktor boleh menggunakan ChatGPT untuk menyelesaikan masalah dengan kod sumber, meningkatkan produktiviti serta mengetahui perubahan teknologi terkini.
Semasa membenarkan penggunaan ChatGPT, gergasi Korea Selatan itu juga mengeluarkan notis kepada bahagian semikonduktor untuk "berhati-hati tentang keselamatan maklumat dalaman dan jangan memasukkan maklumat peribadi" dalam chatbot kecerdasan buatan (AI) yang popular.
Pada mulanya, seorang pekerja dari Semiconductor and Device Solutions menghadapi masalah semasa melaksanakan perisian muat turun pangkalan data pengukuran peralatan semikonduktor (DB).
Memandangkan ia kelihatan seperti isu kod sumber perisian, pekerja itu menyalin dan menampal kod sumber syarikat sulit buggy ke dalam alat AI. Ia kemudian meminta chatbot untuk menyemak ralat dan mencari penyelesaian, sebenarnya menjadikan kod sumber sebahagian daripada data latihan dalaman ChatGPT.
Dalam contoh kedua, seorang pekerja apabila berhadapan dengan kesukaran untuk memahami hasil peranti dan maklumat lain berkongsi kod dengan chatbot AI dan meminta "pengoptimuman kod" daripada ChatGPT.
Semasa dalam contoh ketiga, seorang pekerja berkongsi rakaman mesyuarat syarikat sulit dan meminta ChatGPT menukarnya kepada nota untuk pembentangan. Maklumat yang dikongsi dengan ChatGPT akibat insiden ini kini menjadi sebahagian daripadanya selama-lamanya dan tidak boleh dipadamkan.
Akibatnya, Samsung mengambil langkah segera dan kini telah mengehadkan panjang gesaan ChatGPT setiap pekerja kepada satu kilobait atau 1024 aksara teks. Syarikat itu juga dikatakan sedang menyiasat tiga pekerja yang menjadi sebahagian daripada kebocoran itu, serta mempertimbangkan untuk melaksanakan semula larangan itu.
Untuk mengelakkan kemalangan yang memalukan pada masa hadapan, Samsung kini sedang membangunkan chatbot AInya sendiri, yang bertujuan untuk digunakan dengan ketat oleh pekerjanya untuk tujuan dalaman.
"Jika kemalangan serupa berlaku walaupun selepas langkah perlindungan maklumat kecemasan diambil, akses kepada ChatGPT mungkin disekat pada rangkaian syarikat," baca memo dalaman yang dihantar oleh Samsung yang menasihati pekerjanya supaya berhati-hati semasa menggunakan alat AI.
"Sebaik sahaja kandungan dimasukkan ke dalam ChatGPT, data dihantar dan disimpan ke pelayan luaran, menjadikannya mustahil bagi syarikat untuk mendapatkannya semula. ”
Panduan pengguna ChatGPT secara eksplisit memberi amaran kepada pengguna untuk tidak berkongsi maklumat sensitif dalam perbualan mereka, kerana ia "tidak dapat memadamkan gesaan tertentu daripada sejarah anda. ”
Adalah penting untuk ambil perhatian bahawa semua soalan dan teks yang dikongsi dengan ChatGPT dikekalkan untuk melatih dan menambah baik model AInya melainkan pengguna secara eksplisit memilih untuk menarik diri. Dalam erti kata lain, sukar atau mustahil untuk memadamkan data sepenuhnya dari sistem.
"Sebagai sebahagian daripada komitmen kami terhadap AI yang selamat dan bertanggungjawab, kami menyemak perbualan untuk menambah baik sistem kami dan untuk memastikan kandungan mematuhi dasar dan keperluan keselamatan kami... Perbualan anda mungkin disemak oleh jurulatih AI kami untuk menambah baik sistem kami," OpenAI menerangkan dengan jelas di laman webnya.
Terutamanya, OpenAI mendakwa, "Kami mengalih keluar sebarang maklumat yang boleh dikenal pasti secara peribadi daripada data yang kami ingin gunakan untuk meningkatkan prestasi model. Kami juga hanya menggunakan persampelan kecil data bagi setiap pelanggan untuk usaha kami meningkatkan prestasi model."
Menariknya, ChatGPT telah berada di bawah banyak penelitian sejak kebelakangan ini mengenai dasar pengumpulan datanya di Eropah dengan Itali mengharamkan sementara chatbot AI di negara itu atas kebimbangan privasi. Jerman juga boleh mengikuti larangan ChatGPT Itali baru-baru ini dan mungkin mengambil tindakan yang sama dengan menyekat chatbot AI di negara mereka.