ติดอยู่กับอัลกอริธึมความเศร้าโศกและปัญหาความเป็นส่วนตัวของภาพ AI

—Tate Ryan-Mosley นักข่าวอาวุโสด้านนโยบายเทคโนโลยี

ฉันเป็น Googler ที่ยอดเยี่ยมมาโดยตลอด รับมือกับความไม่แน่นอนด้วยการพยายามเรียนรู้เกี่ยวกับสิ่งที่กำลังจะตามมาให้ได้มากที่สุด นั่นรวมถึงมะเร็งลำคอของพ่อฉันด้วย

ฉันเริ่มกูเกิลขั้นตอนแห่งความเศร้าโศก หนังสือและงานวิจัยเชิงวิชาการเกี่ยวกับการสูญเสียจากแอปบน iPhone ของฉัน บริโภคประสบการณ์ความเศร้าโศกและโศกนาฏกรรมของผู้คนโดยตั้งใจและไม่ตั้งใจผ่านวิดีโอ Instagram ฟีดข่าวต่างๆ และข้อความรับรองจาก Twitter

แต่ทุกครั้งที่ค้นหาและคลิก ฉันได้สร้างเว็บเหนียวแห่งความเศร้าโศกทางดิจิทัลโดยไม่ได้ตั้งใจ ท้ายที่สุดแล้ว แทบจะเป็นไปไม่ได้เลยที่จะแก้ตัวเองจากสิ่งที่อัลกอริทึมให้บริการแก่ฉัน ฉันออกไปแล้ว—ในที่สุด แต่เหตุใดจึงยากที่จะยกเลิกการสมัครรับข้อมูลและเลือกไม่รับเนื้อหาที่เราไม่ต้องการ ทั้งๆ ที่เนื้อหานั้นเป็นอันตรายต่อเรา อ่านเรื่องราวทั้งหมด

โมเดล AI แยกภาพถ่ายของคนจริงและภาพที่มีลิขสิทธิ์

ข่าว: แบบจำลองการสร้างภาพสามารถถูกกระตุ้นให้สร้างภาพถ่ายที่สามารถระบุตัวตนของคนจริงๆ ภาพทางการแพทย์ และงานที่มีลิขสิทธิ์ของศิลปินได้ ตามการวิจัยใหม่

พวกเขาทำได้อย่างไร: นักวิจัยเตือน Stable Diffusion และ Imagen ของ Google ด้วยคำบรรยายสำหรับภาพหลายครั้ง เช่น ชื่อบุคคล จากนั้นจึงวิเคราะห์ว่าภาพที่สร้างขึ้นตรงกับภาพต้นฉบับในฐานข้อมูลของแบบจำลองหรือไม่ กลุ่มสามารถดึงภาพจำลองมากกว่า 100 ภาพในชุดการฝึกของ AI

เหตุใดจึงสำคัญ: การค้นพบนี้อาจช่วยเสริมคดีให้กับศิลปินที่กำลังฟ้องร้องบริษัท AI ในเรื่องการละเมิดลิขสิทธิ์ และอาจคุกคามความเป็นส่วนตัวของบุคคล นอกจากนี้ยังอาจส่งผลต่อสตาร์ทอัพที่ต้องการใช้โมเดล AI เชิงกำเนิดในการดูแลสุขภาพ เนื่องจากแสดงให้เห็นว่าระบบเหล่านี้เสี่ยงต่อการรั่วไหลของข้อมูลส่วนตัวที่ละเอียดอ่อน อ่านเรื่องราวทั้งหมด