ข้อกังวลอย่างหนึ่งกับระบบ Genai ตาม Rogoyski คือเรากำลังเข้าสู่อาณาจักรที่ไม่มีใครรู้ว่าพวกเขาทำงานอย่างไร – แม้ว่าพวกเขาจะเป็นประโยชน์ต่อผู้คนก็ตาม เมื่อ AI มีความสามารถมากขึ้น“ ผลิตภัณฑ์ใหม่ปรากฏขึ้นวัสดุใหม่ยาใหม่เรารักษาโรคมะเร็ง แต่จริงๆแล้วเราจะไม่มีความคิดใด ๆ ว่ามันเสร็จสิ้นแล้ว” เขากล่าว
“ หนึ่งในความท้าทายคือการตัดสินใจเหล่านี้กำลังดำเนินการโดย บริษัท ไม่กี่แห่งและบุคคลไม่กี่คนใน บริษัท เหล่านั้น” เขากล่าว การตัดสินใจของคนไม่กี่คน“ จะส่งผลกระทบอย่างมากต่อ…สังคมโลกโดยรวมและนั่นก็ไม่ถูกต้อง” เขาชี้ให้เห็นว่า บริษัท อย่าง Amazon, Openai และ Google มีเงินมากพอที่จะอุทิศให้กับ AI มากกว่ารัฐบาลทั้งหมด
Rogoyski ชี้ให้เห็นถึงปริศนาที่เปิดเผยโดยวิธีแก้ปัญหาเช่นเดียวกับที่แคลิฟอร์เนียพยายามที่จะมาถึง หัวใจหลักของข้อเสนอของคณะทำงานของคณะทำงานของรัฐแคลิฟอร์เนียคือความโปร่งใสการปฏิบัติต่อฟังก์ชั่น AI เป็นโครงการโอเพนซอร์ซ ในอีกด้านหนึ่งผู้เชี่ยวชาญด้านนอกสามารถช่วยตั้งค่าสถานะอันตรายได้ ในอีกด้านหนึ่งความโปร่งใสเปิดเทคโนโลยีให้กับนักแสดงที่เป็นอันตราย เขาให้ตัวอย่างของ AI ที่ออกแบบมาสำหรับเทคโนโลยีชีวภาพบางสิ่งที่ออกแบบมาเพื่อสร้างยาช่วยชีวิต ในมือที่ไม่ถูกต้องเครื่องมือเดียวกันนั้นอาจถูกใช้เพื่อสร้างอาวุธชีวภาพที่รุนแรง