ถุงขยะกำลังถูกโยนออกมาจากหน้าต่างทำเนียบขาวหรือวิดีโอยอดนิยมดูเหมือนจะแสดง
“ อาจสร้าง AI ได้” ประธานาธิบดีทรัมป์กล่าวในงานแถลงข่าววันอังคาร
ก่อนหน้านี้เจ้าหน้าที่ทำเนียบขาวแนะนำให้ เวลา นิตยสารที่วิดีโอเป็นจริงและแสดงให้เห็นว่าผู้รับเหมาทำ“ การบำรุงรักษาปกติ”
ที่นี่เราอยู่เช่นเดียวกับเหตุการณ์อื่น ๆ ที่ถูกจับหรือไม่ถูกจับโดยกล้อง กระเป๋าเป็นจริงหรือทำโดย AI? หากพวกเขาเป็นจริงมันเป็นปริศนาที่น่าสนใจหรือการปรับปรุงบ้านที่น่าเบื่อ? เราไม่รู้
ในข่าวความบันเทิงนักแสดงและแร็ปเปอร์ช่องทางการของ Will Smith โพสต์วิดีโอที่โปรโมตของเขาจากทัวร์เรื่องจริงแสดงให้เห็นว่าแฟน ๆ ร้องไห้และสัญญาณที่เขียนด้วยมือซึ่งนักวิจารณ์ถูกกระแทกเพื่อเป็นผู้สร้าง Ai-Generated –การวิเคราะห์ผู้เชี่ยวชาญ แสดงให้เห็นว่าวิดีโออาจผสมเนื้อหาจริงและ AI ที่ผลิต))
สมิ ธ ตอบโต้ข้อกล่าวหาโดยการโพสต์วิดีโอ Instagram ใหม่ที่แสดงให้เห็นว่าผู้ชมของเขาทำจากแมวที่สร้างขึ้นโดย Ai
แน่นอนว่าการเรียกร้องของฝ่ายตรงข้ามเกี่ยวกับภาพหรือวิดีโอที่สร้างขึ้นโดย Ai นั้นเกิดขึ้นกับปัญหาที่ร้ายแรงกว่าถุงขยะที่ตกลงมาหรือฝูงชนแมว
เขาพูดว่าเธอพูด
ทหารสหรัฐฯรายงานว่ามีผู้เสียชีวิต 11 คนในการนัดหยุดงานบนเรือเร็วจากเวเนซุเอลากล่าวว่าจะถือยาเสพติดที่ผิดกฎหมายในทะเลแคริบเบียนตอนใต้เมื่อวันอังคาร รัฐบาลโพสต์วิดีโอของการนัดหยุดงาน แต่ Freddy ñáñezรัฐมนตรีว่าการกระทรวงการสื่อสารของเวเนซุเอลากล่าวว่าวิดีโอดูเหมือนจะสร้างขึ้น
นักการเมืองชาวไต้หวันและกองทัพต้องเผชิญกับการใช้ภาพปลอมที่สร้างขึ้นซ้ำ ๆ ในแคมเปญการบิดเบือนข้อมูล เมื่อติดอยู่ในสถานการณ์ที่ประนีประนอมในวิดีโอหรือเสียงตัวเลขสาธารณะที่กำหนดเป้าหมายอ้างว่าการบันทึกคือ“ deepfakes” เพื่อสร้างข้อสงสัยแม้ว่าผู้ตรวจสอบข้อเท็จจริงและผู้เชี่ยวชาญด้านเทคโนโลยีจะไม่พบหลักฐานการจัดการ
ในอินเดียเม็กซิโกไนจีเรียและบราซิลถูกกล่าวหาว่าเป็นนักการเมืองมักกล่าวว่าการพิสูจน์ว่าพวกเขาทำโดย AI พวกเขาไม่ใช่ค่าผิดปกติ พวกเขาอยู่ข้างหน้าของวาทศิลป์ทางการเมือง
Rise of the ‘Liar’s Dividend’
ในปี 2019 เมื่อ Deepfake Audio และวิดีโอกลายเป็นปัญหาร้ายแรงผู้เชี่ยวชาญด้านกฎหมาย Bobby Chesney และ Danielle Citron ก็มาพร้อมกับวาระนี้ “ เงินปันผลของคนโกหก” เพื่ออธิบายข้อได้เปรียบที่บุคคลสาธารณะไม่ซื่อสัตย์ได้รับจากการเรียกหลักฐานที่แท้จริงว่า “ปลอม” ในเวลาที่เนื้อหาที่สร้างขึ้นทำให้ผู้คนตั้งคำถามกับสิ่งที่พวกเขาเห็นและได้ยิน
การเรียกร้องที่ผิดพลาดของ Deepfakes อาจเป็นอันตรายเช่นเดียวกับ Deepfakes ที่แท้จริงในระหว่างการเลือกตั้ง ข้อโต้แย้งเกี่ยวกับสิ่งที่เป็นจริงเครื่องมือตรวจจับที่ไม่น่าเชื่อถือและความไม่ไว้วางใจโดยทั่วไปอนุญาตให้นักการเมืองที่ไม่ซื่อสัตย์สามารถร้องไห้หมาป่าเกี่ยวกับ “ข่าวปลอม” หรือ deepfakes เพื่อหลีกเลี่ยงการตำหนิ
หนึ่ง ทบทวนรัฐศาสตร์อเมริกัน บทความ โดย Kaylyn Jackson Schiff, Daniel S. Schiff และNatália S. Bueno มีพื้นฐานมาจากการทดลองห้าครั้งที่มีผู้ใหญ่มากกว่า 15,000 คนในสหรัฐอเมริกาตั้งแต่ปี 2563 ถึง 2565 พวกเขาพบว่าในเรื่องอื้อฉาวที่เกี่ยวข้องกับนักการเมืองจากทั้งสองฝ่าย การสนับสนุนที่เพิ่มขึ้น มากกว่าอยู่เงียบ ๆ หรือขอโทษ
ทำไมนาโนกล้วยจึงอุทธรณ์
Google Gemini 2.5 ภาพแฟลชเรียกด้วยชื่อรหัสภายใน“ Nano Banana” เป็นรูปแบบการสร้างภาพและการแก้ไขใหม่ที่สามารถสร้างภาพแสง
มันสามารถแก้ไขรูปภาพที่มีอยู่โดยใช้พรอมต์ง่าย ๆ ตัวอย่างเช่นคุณสามารถอัปโหลดรูปภาพของคนที่ลูบคลำลูกสุนัขและด้วยประโยคภาษาธรรมชาติที่เรียบง่ายเปลี่ยนเป็นภาพที่น่าเชื่อถือของคน ๆ หนึ่งที่เช็ดยางรถยนต์
ความสอดคล้องของตัวละคร – การรักษาใบหน้าเสื้อผ้าหรือรายละเอียดวัตถุที่มีเสถียรภาพในฉากเดียวกัน – ทำให้ภาพปลอมดูเหมือนซีรีย์ภาพถ่ายจริง โมเดลใช้ประโยชน์จาก“ ความรู้ระดับโลก” ที่กว้างขึ้นของราศีเมถุนเพื่อทำตามคำแนะนำที่ซับซ้อนและทำการแก้ไขที่ตรงกับบริบทของโลกจริงเช่นแสงที่น่าเชื่อถือหรือการวางวัตถุ
Nano Banana มีให้สำหรับนักพัฒนาซอฟต์แวร์ในตัวอย่างผ่าน Gemini API, Google AI Studio และ Vertex AI ราคาอยู่ที่ $ 30 ต่อ 1 ล้านโทเค็นเอาท์พุทและ $ 0.039 ต่อภาพตาม 1,290 โทเค็น เนื่องจากนาโนกล้วยอยู่ในราศีเมถุน API บริษัท อื่น ๆ จึงมีแนวโน้มที่จะรวมเข้าด้วยกัน ไซต์และเครื่องมือที่ได้รับการยืนยันคือ OpenRouter, Fal.ai, Adobe Firefly และ Adobe Specific, Poe (Quora), Freepik, Figma และ Pollo AI พร้อม WPP Open และ Leonardo.ai
ความสามารถในการปลอมแปลงจะอยู่ทุกหนทุกแห่งพร้อมกับการรับรู้ที่เพิ่มขึ้นว่าข้อมูลภาพสามารถปลอมแปลงได้อย่างง่ายดายและน่าเชื่อถือ การรับรู้นั้นทำให้การอ้างสิทธิ์ผิดพลาดว่ามีบางสิ่งที่สร้างขึ้นด้วย AI
ข่าวดีก็คือว่า Gemini 2.5 Flash Picture Stamps ทุกภาพทำหรือแก้ไขด้วยลายน้ำซินธิดที่ซ่อนอยู่สำหรับการระบุ AI หลังจากการเปลี่ยนแปลงทั่วไปเช่นการปรับขนาดการหมุนการบีบอัดหรือสำเนาภาพหน้าจอ Google กล่าวว่าระบบ ID นี้ครอบคลุมเอาต์พุตและเรือทั้งหมดด้วยรุ่นใหม่ทั่ว Gemini API, Google AI Studio และ Vertex AI
Synthid สำหรับภาพเปลี่ยนพิกเซลโดยไม่เห็น แต่เครื่องตรวจจับที่จับคู่สามารถจดจำได้ในภายหลังโดยใช้เครือข่ายประสาทหนึ่งเพื่อฝังรูปแบบและอื่น ๆ เพื่อมองเห็นมัน
เครื่องตรวจจับรายงานระดับเช่น“ ปัจจุบัน”“ สงสัย” หรือ“ ไม่ตรวจพบ” ซึ่งมีประโยชน์มากกว่าใช่/ไม่ใช่ที่เปราะบางที่ล้มเหลวหลังจากการเปลี่ยนแปลงเล็กน้อย
OpenAI ใช้วิธีการที่แตกต่างกันสำหรับการสร้างภาพ Dall-E 3 และ ChatGPT โดยการแนบข้อมูลเมตาของ C2PA“ เนื้อหาข้อมูลรับรองเนื้อหา” ที่บันทึกเครื่องมือที่ใช้และรายการที่ลงนามในการเข้ารหัสโดยตรวจสอบได้ด้วยเว็บไซต์รับรองเนื้อหา Openai เริ่มเพิ่มข้อมูลประจำตัวเหล่านี้ในเดือนกุมภาพันธ์ 2567 และยอมรับว่าพวกเขาสามารถลบออกได้ด้วยแพลตฟอร์มโซเชียลหรือภาพหน้าจอดังนั้นข้อมูลเมตาที่ขาดหายไปจึงไม่ได้พิสูจน์ภาพของบุคคล
บริการ Azure Openai ของ Microsoft เพิ่มข้อมูลรับรองเนื้อหา C2PA ลงนามเพื่อย้อนกลับไปยัง Azure Openai พร้อมฟิลด์เช่น“ AI สร้างภาพ” ตัวแทนซอฟต์แวร์และการประทับเวลา ข้อมูลประจำตัวเหล่านี้ยังคงอยู่ในการดาวน์โหลด แต่สามารถลบออกได้
เมตาฉลากภาพที่เป็นจริงที่ทำด้วยเครื่องมือและใช้ข้อมูลเมตาของ IPTC และลายน้ำที่มองไม่เห็นและนักวิจัยได้ตีพิมพ์“ ลายเซ็นที่มั่นคง” ลายน้ำแบบจำลองแบบรวมสำหรับเครื่องกำเนิดไฟฟ้าโอเพนซอร์ซ
ความคิดริเริ่มเนื้อหาความถูกต้องของ Adobe และมาตรฐาน C2PA ต้องการให้การตรวจสอบ “ข้อมูลรับรองเนื้อหา” ทำงานในแอพและเว็บไซต์ที่แตกต่างกันเพื่อให้ผู้คนสามารถดูว่าภาพถ่ายและวิดีโอมาจากไหนและแก้ไขได้อย่างไร Tiktok ได้เริ่มเพิ่มข้อมูลรับรองเนื้อหาและสามารถติดฉลากสื่อ AI จากพันธมิตรที่จัดส่งข้อมูลเมตา C2PA โดยอัตโนมัติด้วยการตรวจสอบผ่านเครื่องมือสาธารณะของมาตรฐาน
Synthid ทำให้ฉันรู้สึกมากที่สุด แต่ทุกคนสามารถพ่ายแพ้ได้โดยทุกคนที่พยายามส่งผ่านรูปภาพหรือวิดีโอปลอมเป็นเรื่องจริง ซึ่งหมายความว่าเมื่อมีคนบอกว่าหลักฐานจากภาพเป็นของปลอมไม่มีใครสามารถพิสูจน์ได้ว่าผิด
การถ่ายภาพถูกใช้เป็นหลักฐานครั้งแรกในห้องพิจารณาคดีในปี 2402 เริ่มมีอิทธิพลต่อความคิดเห็นของประชาชนในปี 2405 ด้วยภาพถ่ายสงครามกลางเมืองและกลายเป็นแหล่งพิสูจน์ที่เชื่อถือได้ในหนังสือพิมพ์ในปี 1880 เมื่อการพิมพ์ Halftone อนุญาตให้ผู้เผยแพร่พิมพ์ภาพถ่ายจริงบนหนังสือพิมพ์
นั่นหมายถึงเนื้อหาภาพที่ทำจากกล้องทำหน้าที่เป็นหลักฐานที่เชื่อถือได้และน่าเชื่อถือเป็นเวลา 166 ปี
อำลาหลักฐานการถ่ายภาพและวิดีโอที่เชื่อถือได้ซึ่งเราทุกคนสามารถเห็นด้วย เราแทบจะไม่รู้จักคุณ
