chatgpt ตีด้วยการร้องเรียนความเป็นส่วนตัวเกี่ยวกับภาพหลอนหมิ่นประมาท

Openai กำลังเผชิญกับการร้องเรียนเรื่องความเป็นส่วนตัวอีกครั้งในยุโรปเกี่ยวกับแนวโน้มของไวรัส AI Chatbot ที่จะทำให้ภาพหลอนข้อมูลเท็จ – และสิ่งนี้อาจพิสูจน์ได้ว่าเป็นเรื่องยุ่งยากสำหรับหน่วยงานกำกับดูแลที่จะเพิกเฉย

กลุ่มผู้สนับสนุนความเป็นส่วนตัว NOYB กำลังสนับสนุนบุคคลในนอร์เวย์ที่น่ากลัวที่จะพบ CHATGPT การกลับมาข้อมูลที่สร้างขึ้นซึ่งอ้างว่าเขาถูกตัดสินลงโทษในข้อหาสังหารลูกสองคนของเขาและพยายามฆ่าคนที่สาม

ข้อร้องเรียนความเป็นส่วนตัวก่อนหน้านี้เกี่ยวกับการสร้างข้อมูลส่วนบุคคลที่ไม่ถูกต้องมีปัญหาเช่น วันเกิดไม่ถูกต้อง หรือ รายละเอียดทางชีวประวัติที่ผิด– ข้อกังวลอย่างหนึ่งคือ OpenAI ไม่ได้เสนอวิธีสำหรับบุคคลในการแก้ไขข้อมูลที่ไม่ถูกต้องที่ AI สร้างขึ้นเกี่ยวกับพวกเขา โดยทั่วไป OpenAI ได้เสนอให้บล็อกการตอบสนองสำหรับพรอมต์ดังกล่าว แต่ภายใต้กฎระเบียบคุ้มครองข้อมูลทั่วไปของสหภาพยุโรป (GDPR) ชาวยุโรปมีชุดสิทธิ์การเข้าถึงข้อมูลซึ่งรวมถึงสิทธิ์ในการแก้ไขข้อมูลส่วนบุคคล

องค์ประกอบอื่นของกฎหมายการปกป้องข้อมูลนี้ต้องการตัวควบคุมข้อมูลเพื่อให้แน่ใจว่าข้อมูลส่วนบุคคลที่พวกเขาผลิตเกี่ยวกับบุคคลนั้นถูกต้อง – และนั่นเป็นเรื่องที่น่ากังวล NOYB กำลังตั้งค่าสถานะด้วยการร้องเรียนล่าสุดของ Chatgpt

“ GDPR มีความชัดเจนข้อมูลส่วนบุคคลจะต้องถูกต้อง” Joakim Söderbergทนายความฝ่ายคุ้มครองข้อมูลของ Noyb กล่าวในแถลงการณ์ “ ถ้าไม่ใช่ผู้ใช้มีสิทธิ์ที่จะเปลี่ยนมันเพื่อสะท้อนความจริงการแสดงผู้ใช้ chatgpt เป็นข้อจำกัดความรับผิดชอบเพียงเล็กน้อยที่ chatbot สามารถทำผิดพลาดได้อย่างชัดเจนไม่เพียงพอคุณไม่สามารถกระจายข้อมูลเท็จและในที่สุด

การฝ่าฝืน GDPR ที่ได้รับการยืนยันสามารถนำไปสู่การลงโทษสูงถึง 4% ของผลประกอบการประจำปีทั่วโลก

การบังคับใช้อาจบังคับให้มีการเปลี่ยนแปลงผลิตภัณฑ์ AI โดยเฉพาะอย่างยิ่งการแทรกแซง GDPR ในช่วงต้นโดยสุนัขเฝ้าบ้านการป้องกันข้อมูลของอิตาลีที่เห็นการเข้าถึง chatgpt ที่ถูกบล็อกชั่วคราวในประเทศใน ฤดูใบไม้ผลิ 2023 LED openai เพื่อทำการเปลี่ยนแปลงข้อมูลที่เปิดเผยต่อผู้ใช้เช่น ที่ Watchdog ต่อมาก็ไปที่ Advantageous Openai € 15 ล้าน สำหรับการประมวลผลข้อมูลของผู้คนโดยไม่มีพื้นฐานทางกฎหมายที่เหมาะสม

แต่ตั้งแต่นั้นมามันก็ยุติธรรมที่จะบอกว่าสุนัขเฝ้าบ้านเป็นส่วนตัวทั่วยุโรปได้ใช้วิธีการที่ระมัดระวังมากขึ้นในการ Genai ในขณะที่พวกเขาพยายามที่จะ หาวิธีที่ดีที่สุดในการใช้ GDPR กับเครื่องมือ AI Buzzy เหล่านี้–

สองปีที่ผ่านมาคณะกรรมการคุ้มครองข้อมูลของไอร์แลนด์ (DPC) – ซึ่งมีบทบาทการบังคับใช้ GDPR นำในการร้องเรียน NOYB Chatgpt ก่อนหน้านี้ – เรียกร้องให้รีบสั่งห้าม ตัวอย่างเช่นเครื่องมือ Genai สิ่งนี้ชี้ให้เห็นว่าหน่วยงานกำกับดูแลควรใช้เวลาในการหาวิธีที่กฎหมายใช้

และเป็นที่น่าสังเกตว่าการร้องเรียนเรื่องความเป็นส่วนตัวกับ Chatgpt ที่อยู่ระหว่างการสอบสวนโดย Watchdog ป้องกันข้อมูลของโปแลนด์ตั้งแต่ กันยายน 2566 ยังไม่ได้ตัดสินใจ

การร้องเรียน CHATGPT ใหม่ของ NOYB มีวัตถุประสงค์เพื่อเขย่าหน่วยงานกำกับดูแลความเป็นส่วนตัวตื่นขึ้นมาเมื่อมันมาถึงอันตรายของภาพหลอน AIS

องค์กรไม่แสวงหาผลกำไรแบ่งปันภาพหน้าจอ (ด้านล่าง) กับ TechCrunch ซึ่งแสดงให้เห็นถึงการมีปฏิสัมพันธ์กับ CHATGPT ซึ่ง AI ตอบคำถามที่ถามว่า“ ใครคือ Arve Hjalmar Holmen” – ชื่อของบุคคลที่นำการร้องเรียน – โดยการสร้างนิยายที่น่าเศร้าที่ระบุว่าเขาถูกตัดสินว่ามีความผิดในข้อหาฆาตกรรมเด็กและถูกตัดสินจำคุก 21 ปีในคุกเพราะสังหารลูกชายสองคนของเขาเอง

ในขณะที่การอ้างว่าหมิ่นประมาทว่า Hjalmar Holmen เป็นฆาตกรเด็กนั้นเป็นเท็จทั้งหมด Noyb ตั้งข้อสังเกตว่าการตอบสนองของ CHATGPT นั้นรวมถึงความจริงบางอย่างเนื่องจากบุคคลที่มีปัญหามีลูกสามคน chatbot ยังมีเพศของลูก ๆ ของเขาถูกต้อง และเมืองบ้านเกิดของเขามีชื่ออย่างถูกต้อง แต่นั่นก็ทำให้มันยิ่งแปลกและไม่มั่นคงมากขึ้นว่าภาพหลอนของ AI ภาพหลอนที่น่าสยดสยองนั้นอยู่ด้านบน

โฆษกของ NOYB กล่าวว่าพวกเขาไม่สามารถระบุได้ว่าทำไม Chatbot จึงผลิตประวัติที่เฉพาะเจาะจง แต่เป็นเท็จสำหรับบุคคลนี้ “ เราทำการวิจัยเพื่อให้แน่ใจว่านี่ไม่ใช่แค่การผสมผสานกับบุคคลอื่น” โฆษกกล่าวโดยสังเกตว่าพวกเขามองเข้าไปในจดหมายเหตุหนังสือพิมพ์ แต่ไม่สามารถหาคำอธิบายได้ว่าทำไมเด็กที่ประดิษฐ์ AI จึงถูกสังหาร

รูปแบบภาษาขนาดใหญ่ เช่น chatgpt พื้นฐานที่ทำนายคำต่อไปในระดับกว้างใหญ่ดังนั้นเราจึงสามารถคาดเดาได้ว่าชุดข้อมูลที่ใช้ในการฝึกอบรมเครื่องมือที่มีเรื่องราวมากมายของ filicide ที่มีอิทธิพลต่อคำว่าตัวเลือกในการตอบคำถามเกี่ยวกับผู้ชายที่มีชื่อ

ไม่ว่าคำอธิบายจะเป็นที่ชัดเจนว่าเอาต์พุตดังกล่าวไม่สามารถยอมรับได้ทั้งหมด

การโต้แย้งของ NOYB นั้นเป็นสิ่งที่ผิดกฎหมายภายใต้กฎการป้องกันข้อมูลของสหภาพยุโรป และในขณะที่ OpenAI แสดงข้อจำกัดความรับผิดชอบเพียงเล็กน้อยที่ด้านล่างของหน้าจอที่ระบุว่า“ ChatGPT สามารถทำผิดพลาดได้ตรวจสอบข้อมูลที่สำคัญ” มันบอกว่าสิ่งนี้ไม่สามารถทำให้ผู้พัฒนา AI ได้รับหน้าที่ภายใต้ GDPR ไม่ให้เกิดความเท็จที่ร้ายแรงเกี่ยวกับผู้คนในตอนแรก

Openai ได้รับการติดต่อเพื่อตอบสนองต่อการร้องเรียน

ในขณะที่การร้องเรียนของ GDPR นี้เกี่ยวข้องกับบุคคลที่มีชื่อบุคคลหนึ่ง แต่ Noyb ชี้ไปที่กรณีอื่น ๆ ของ CHATGPT ที่ประดิษฐ์ข้อมูลที่ถูกประนีประนอมตามกฎหมายเช่นพันตรีออสเตรเลียที่กล่าวว่าเขาเป็น มีส่วนเกี่ยวข้องในเรื่องอื้อฉาวการติดสินบนและการทุจริต หรือ นักข่าวชาวเยอรมันที่ได้รับการขนานนามว่าเป็นเด็ก – บอกว่าเป็นที่ชัดเจนว่านี่ไม่ใช่ปัญหาที่แยกได้สำหรับเครื่องมือ AI

สิ่งสำคัญอย่างหนึ่งที่ควรทราบคือหลังจากการอัปเดตไปยังโมเดล AI ที่มีพลังแชท GTPT, Noyb กล่าวว่า chatbot หยุดการผลิตความเท็จที่เป็นอันตรายเกี่ยวกับ Hjalmar Holmen – การเปลี่ยนแปลงที่เชื่อมโยงกับเครื่องมือในขณะนี้ค้นหาข้อมูลเกี่ยวกับผู้คนเมื่อถูกถามว่าพวกเขาเป็นใคร

ในการทดสอบของเราเองถาม chatgpt“ ใครคือ Arve Hjalmar Holmen?” ตอนแรก Chatgpt ตอบกลับด้วยคอมโบแปลก ๆ เล็กน้อยโดยการแสดงภาพถ่ายของผู้คนที่แตกต่างกันโดยเห็นได้ชัดว่ามาจากไซต์รวมถึง Instagram, SoundCloud และ Discogs ควบคู่ไปกับข้อความที่อ้างว่า“ ไม่พบข้อมูลใด ๆ ” ในบุคคลของชื่อนั้น (ดูภาพหน้าจอของเราด้านล่าง) ความพยายามครั้งที่สองเปิดการตอบสนองที่ระบุว่า Arve Hjalmar Holmen เป็น“ นักดนตรีและนักแต่งเพลงชาวนอร์เวย์” ซึ่งอัลบั้มรวมถึง“ Honky Tonk Inferno”

ในขณะที่ความเท็จที่เป็นอันตรายที่เกิดจากการพูดคุยเกี่ยวกับ Hjalmar Holmen ดูเหมือนจะหยุดลงทั้ง Noyb และ Hjalmar Holmen ยังคงกังวลว่าข้อมูลที่ไม่ถูกต้องและทำให้เสื่อมเสียเกี่ยวกับเขาอาจถูกเก็บไว้ภายในโมเดล AI

“ การเพิ่มข้อจำกัดความรับผิดชอบที่คุณไม่ปฏิบัติตามกฎหมายไม่ได้ทำให้กฎหมายหายไป” Kleanthi Sardeli ทนายความคุ้มครองข้อมูลอีกคนหนึ่งที่ Noyb กล่าวในแถลงการณ์ “ บริษัท AI ไม่สามารถเพียงแค่ ‘ซ่อน’ ข้อมูลเท็จจากผู้ใช้ในขณะที่พวกเขายังคงประมวลผลข้อมูลเท็จภายใน”

“ บริษัท AI ควรหยุดทำตัวราวกับว่า GDPR ไม่ได้ใช้กับพวกเขาเมื่อมันชัดเจน” เธอกล่าวเสริม “ หากภาพหลอนไม่หยุดผู้คนสามารถได้รับความเสียหายจากชื่อเสียงได้อย่างง่ายดาย”

NOYB ได้ยื่นเรื่องร้องเรียนต่อ OpenAI กับหน่วยงานคุ้มครองข้อมูลนอร์เวย์ – และหวังว่าสุนัขเฝ้าบ้านจะตัดสินใจว่ามีความสามารถในการตรวจสอบเนื่องจาก OYB กำลังกำหนดเป้าหมายการร้องเรียนที่กิจการของ OpenAI ของสหรัฐอเมริกา

อย่างไรก็ตามการร้องเรียน GDPR ที่ได้รับการสนับสนุนจาก Noyb ก่อนหน้านี้กับ Openai ซึ่งถูกยื่นในออสเตรียใน เมษายน 2567ถูกเรียกโดยผู้ควบคุมไปยัง DPC ของไอร์แลนด์ในบัญชีของ การเปลี่ยนแปลงของ Openai เมื่อต้นปีนั้น เพื่อตั้งชื่อแผนกไอริชในฐานะผู้ให้บริการ CHATGPT ให้กับผู้ใช้ในระดับภูมิภาค

ตอนนี้การร้องเรียนนั้นอยู่ที่ไหน ยังคงนั่งอยู่บนโต๊ะในไอร์แลนด์

“ หลังจากได้รับการร้องเรียนจากหน่วยงานกำกับดูแลของออสเตรียในเดือนกันยายน 2567 DPC เริ่มการจัดการอย่างเป็นทางการของการร้องเรียนและยังคงดำเนินต่อไป” Risteard Byrne ผู้ช่วยเจ้าหน้าที่สื่อสารของเจ้าหน้าที่ DPC บอกกับ TechCrunch เมื่อขอการอัปเดต

เขาไม่ได้เสนอการคัดท้ายใด ๆ เมื่อการสอบสวนของ DPC เกี่ยวกับภาพหลอนของ Chatgpt คาดว่าจะสรุปได้