Openai menghadapi keluhan privasi lain di Eropa karena kecenderungan viral AI Chatbot untuk berhalusinasi informasi palsu – dan yang ini mungkin terbukti sulit untuk diabaikan oleh regulator.
Grup Advokasi Hak Privasi NOYB mendukung seseorang di Norwegia yang ngeri menemukan Chatgpt Mengembalikan informasi make-up yang mengklaim dia telah dihukum karena membunuh dua anaknya dan berusaha membunuh yang ketiga.
Keluhan privasi sebelumnya tentang chatgpt menghasilkan data pribadi yang salah telah melibatkan masalah seperti Tanggal lahir yang salah atau detail biografi yang salah. Salah satu kekhawatiran adalah bahwa Openai tidak menawarkan cara bagi individu untuk memperbaiki informasi yang salah yang dihasilkan AI tentang mereka. Biasanya OpenAI telah menawarkan untuk memblokir tanggapan untuk petunjuk tersebut. Tetapi di bawah Peraturan Perlindungan Data Umum Uni Eropa (GDPR), orang Eropa memiliki serangkaian hak akses data yang mencakup hak untuk perbaikan data pribadi.
Komponen lain dari undang -undang perlindungan data ini mengharuskan pengontrol data untuk memastikan bahwa data pribadi yang mereka hasilkan tentang individu adalah akurat – dan itu masalah yang menjadi perhatian NOYB dengan keluhan chatgpt terbaru.
“GDPR jelas. Data pribadi harus akurat,” kata Joakim Söderberg, pengacara perlindungan data di NOYB, dalam sebuah pernyataan. “Jika tidak, pengguna memiliki hak untuk mengubahnya untuk mencerminkan kebenaran. Menunjukkan kepada pengguna chatgpt sebagai penafian kecil bahwa chatbot dapat membuat kesalahan jelas tidak cukup. Anda tidak bisa hanya menyebarkan informasi palsu dan pada akhirnya menambahkan penafian kecil yang mengatakan bahwa semua yang Anda katakan mungkin tidak benar.”
Pelanggaran GDPR yang dikonfirmasi dapat menyebabkan hukuman hingga 4% dari omset tahunan global.
Penegakan juga dapat memaksa perubahan pada produk AI. Khususnya, intervensi GDPR awal oleh pengawas perlindungan data Italia yang melihat akses chatgpt yang diblokir sementara di negara itu Musim Semi 2023 LED OpenAi untuk membuat perubahan pada informasi yang diungkapkan kepada pengguna, misalnya. Itu Watchdog kemudian pergi ke OpenAi Fine € 15 juta untuk memproses data orang tanpa dasar hukum yang tepat.
Namun, sejak itu, wajar untuk mengatakan bahwa pengawas privasi di seluruh Eropa telah mengadopsi pendekatan yang lebih berhati -hati terhadap Genai saat mereka mencoba Cari tahu cara terbaik untuk menerapkan GDPR pada alat AI buzzy ini.
Dua tahun lalu, Komisi Perlindungan Data Irlandia (DPC) – yang memiliki peran penegakan hukum GDPR pada pengaduan chatgpt NOYB sebelumnya – Didorong untuk tidak melarang Genai Tools, misalnya. Ini menunjukkan bahwa regulator harus meluangkan waktu untuk mengetahui bagaimana hukum berlaku.
Dan perlu dicatat bahwa keluhan privasi terhadap chatgpt yang sedang diselidiki oleh pengawas perlindungan data Polandia sejak itu September 2023 Masih belum menghasilkan keputusan.
Keluhan chatgpt baru NOYB tampaknya dimaksudkan untuk mengguncang regulator privasi yang terjaga dalam hal bahaya berhalusinasi AIS.
Nirlaba berbagi tangkapan layar (di bawah) dengan TechCrunch, yang menunjukkan interaksi dengan chatgpt di mana AI menanggapi pertanyaan yang menanyakan “Siapa Arve Hjalmar Holmen?” – Nama individu yang membawa keluhan – dengan menghasilkan fiksi tragis yang secara keliru menyatakan bahwa ia dihukum karena pembunuhan anak dan dijatuhi hukuman 21 tahun penjara karena membunuh dua putranya sendiri.
Sementara klaim yang memfitnah bahwa Hjalmar Holmen adalah seorang pembunuh anak -anak sepenuhnya salah, NOYB mencatat bahwa tanggapan Chatgpt mencakup beberapa kebenaran, karena individu tersebut memang memiliki tiga anak. Chatbot juga mendapatkan jenis kelamin anak -anaknya dengan benar. Dan kota asalnya dinamai dengan benar. Tapi itu hanya membuatnya semakin aneh dan meresahkan sehingga AI berhalusinasi kepalsuan mengerikan di atas.
Seorang juru bicara NOYB mengatakan mereka tidak dapat menentukan mengapa chatbot menghasilkan sejarah spesifik namun salah untuk individu ini. “Kami melakukan penelitian untuk memastikan bahwa ini bukan hanya campur aduk dengan orang lain,” kata juru bicara itu, mencatat bahwa mereka telah melihat ke arsip surat kabar tetapi tidak dapat menemukan penjelasan mengapa AI fabrikasi pembunuhan anak.
Model bahasa besar Seperti yang pada dasarnya chatgpt yang mendasarinya melakukan prediksi kata berikutnya pada skala yang luas, jadi kami dapat berspekulasi bahwa kumpulan data yang digunakan untuk melatih alat ini berisi banyak kisah filisida yang mempengaruhi kata pilihan dalam menanggapi kueri tentang seorang pria bernama.
Apa pun penjelasannya, jelas bahwa output seperti itu sepenuhnya tidak dapat diterima.
Pendapat NOYB juga melanggar hukum berdasarkan aturan perlindungan data UE. Dan sementara Openai memang menampilkan penafian kecil di bagian bawah layar yang mengatakan “Chatgpt dapat membuat kesalahan. Periksa info penting,” katanya ini tidak dapat membebaskan pengembang AI dari tugasnya di bawah GDPR untuk tidak menghasilkan kepalsuan mengerikan tentang orang -orang di tempat pertama.
Openai telah dihubungi untuk menanggapi pengaduan.
Sementara keluhan GDPR ini berkaitan dengan satu individu yang disebutkan, NOYB menunjuk ke contoh lain dari chatgpt membuat informasi yang kompromi secara hukum – seperti Mayor Australia yang mengatakan dia dulu terlibat dalam skandal penyuapan dan korupsi atau seorang jurnalis Jerman yang secara salah disebut sebagai pelaku kekerasan – Mengatakan jelas bahwa ini bukan masalah yang terisolasi untuk alat AI.
One important thing to note is that, following an update to the underlying AI model powering ChatGPT, Noyb says the chatbot stopped producing the dangerous falsehoods about Hjalmar Holmen — a change that it links to the tool now searching the internet for information about people when asked who they are (whereas previously, a blank in its data set could, presumably, have encouraged it to hallucinate such a wildly wrong response).
Dalam tes kami sendiri yang menanyakan chatgpt “Siapa Arve Hjalmar Holmen?” ChatGPT awalnya merespons dengan kombo yang sedikit aneh dengan menampilkan beberapa foto orang yang berbeda, tampaknya bersumber dari situs termasuk Instagram, SoundCloud, dan Discogs, di samping teks yang mengklaimnya “tidak dapat menemukan informasi” pada seseorang dari nama itu (lihat tangkapan layar kami di bawah). Upaya kedua menjadi tanggapan yang mengidentifikasi Arve Hjalmar Holmen sebagai “seorang musisi dan penulis lagu Norwegia” yang albumnya termasuk “Honky Tonk Inferno.”
Sementara kepalsuan berbahaya yang dihasilkan chatgpt tentang Hjalmar Holmen tampaknya telah berhenti, baik Noyb dan Hjalmar Holmen tetap khawatir bahwa informasi yang salah dan memfitnah tentang dia bisa dipertahankan dalam model AI.
“Menambahkan penafian bahwa Anda tidak mematuhi hukum tidak membuat hukum hilang,” kata Kleanthi Sardeli, pengacara perlindungan data lainnya di NOYB, dalam sebuah pernyataan. “Perusahaan AI juga tidak hanya dapat 'menyembunyikan' informasi palsu dari pengguna sementara mereka secara internal masih memproses informasi yang salah.”
“Perusahaan AI harus berhenti bertindak seolah -olah GDPR tidak berlaku untuk mereka, ketika itu jelas,” tambahnya. “Jika halusinasi tidak dihentikan, orang dapat dengan mudah menderita kerusakan reputasi.”
NOYB telah mengajukan pengaduan terhadap Openai dengan Otoritas Perlindungan Data Norwegia – dan berharap pengawas akan memutuskan bahwa itu kompeten untuk diselidiki, karena OYB menargetkan pengaduan di entitas Openai AS, dengan alasan kantor Irlandia -nya tidak semata -mata bertanggung jawab atas keputusan produk yang berdampak pada Eropa.
Namun pengaduan GDPR yang didukung NOYB sebelumnya terhadap Openai, yang diajukan di Austria di April 2024dirujuk oleh regulator ke DPC Irlandia karena Perubahan yang dilakukan oleh Openai awal tahun itu Untuk menyebutkan divisi Irlandia sebagai penyedia layanan ChatGPT untuk pengguna regional.
Di mana keluhan itu sekarang? Masih duduk di atas meja di Irlandia.
“Setelah menerima pengaduan dari Otoritas Pengawas Austria pada bulan September 2024, DPC memulai penanganan formal pengaduan dan masih berlangsung,” Risteard Byrne, Asisten Kepala Sekolah Komunikasi untuk DPC mengatakan kepada TechCrunch ketika diminta untuk pembaruan.
Dia tidak menawarkan steer ketika penyelidikan DPC tentang halusinasi ChatGPT diharapkan akan berakhir.
