เหตุใดการตรวจจับข้อความที่สร้างโดย AI จึงเป็นเรื่องยาก (และจะทำอย่างไรกับมัน)
เครื่องมือนี้เป็นการตอบสนองของ OpenAI ต่อความร้อนแรงที่ได้รับจากนักการศึกษา นักข่าว และคนอื่นๆ สำหรับการเปิดใช้ ChatGPT โดยไม่มีวิธีการใดๆ ในการตรวจจับข้อความที่สร้างขึ้น อย่างไรก็ตาม มันยังคงมีความคืบหน้าอยู่มาก และไม่น่าเชื่อถืออย่างยิ่ง OpenAI กล่าวว่าตัวตรวจจับข้อความ AI ระบุข้อความ 26% ที่เขียนด้วย AI อย่างถูกต้องว่า “น่าจะเขียนด้วย AI”
ในขณะที่ OpenAI มีงานต้องทำอีกมากเพื่อปรับแต่งเครื่องมือมีข้อจำกัดว่าจะทำออกมาได้ดีแค่ไหน เราไม่น่าจะได้รับเครื่องมือที่สามารถระบุข้อความที่สร้างขึ้นโดย AI ได้อย่างแน่นอน 100% เป็นเรื่องยากมากที่จะตรวจจับข้อความที่สร้างโดย AI เพราะจุดรวมของโมเดลภาษา AI คือการสร้างข้อความที่คล่องแคล่วและดูเหมือนมนุษย์ และโมเดลก็เลียนแบบข้อความที่มนุษย์สร้างขึ้น มูฮัมหมัด อับดุล-มาเกด ศาสตราจารย์ผู้ดูแลการวิจัยในธรรมชาติกล่าว – การประมวลผลภาษาและการเรียนรู้ของเครื่องที่มหาวิทยาลัยบริติชโคลัมเบีย
เรากำลังแข่งขันด้านอาวุธเพื่อสร้างวิธีการตรวจจับที่สามารถจับคู่กับรุ่นล่าสุดและทรงพลังที่สุด Abdul-Mageed กล่าวเสริม โมเดลภาษา AI ใหม่มีประสิทธิภาพมากขึ้นและดีขึ้นในการสร้างภาษาที่คล่องแคล่วยิ่งขึ้น ซึ่งทำให้ชุดเครื่องมือตรวจจับที่มีอยู่ของเราล้าสมัยอย่างรวดเร็ว
OpenAI สร้างตัวตรวจจับด้วยการสร้างโมเดลภาษา AI ใหม่ทั้งหมดที่คล้ายกับ ChatGPT ซึ่งได้รับการฝึกฝนมาเป็นพิเศษเพื่อตรวจจับเอาต์พุตจากโมเดลที่เหมือนกัน แม้ว่ารายละเอียดจะเบาบาง แต่บริษัทก็ฝึกโมเดลด้วยตัวอย่างข้อความที่สร้างขึ้นโดย AI และตัวอย่างข้อความที่สร้างขึ้นโดยมนุษย์ จากนั้นจึงขอให้ระบุข้อความที่สร้างขึ้นโดย AI เราขอข้อมูลเพิ่มเติม แต่ OpenAI ไม่ตอบกลับ
เมื่อเดือนที่แล้ว ฉันได้เขียนเกี่ยวกับวิธีอื่นในการตรวจจับข้อความที่ AI สร้างขึ้น นั่นคือลายน้ำ สิ่งเหล่านี้ทำหน้าที่เป็นสัญญาณลับในข้อความที่ผลิตโดย AI ซึ่งช่วยให้โปรแกรมคอมพิวเตอร์ตรวจจับได้
นักวิจัยจาก University of Maryland ได้พัฒนาวิธีการใช้ลายน้ำกับข้อความที่สร้างขึ้นโดยโมเดลภาษา AI อย่างประณีต และทำให้ใช้งานได้ฟรี ลายน้ำเหล่านี้ช่วยให้เราสามารถบอกได้เกือบจะสมบูรณ์เมื่อมีการใช้ข้อความที่สร้างโดย AI
ปัญหาคือวิธีนี้ต้องการให้บริษัท AI ฝังลายน้ำในแชทบอทตั้งแต่เริ่มต้น OpenAI กำลังพัฒนาระบบเหล่านี้ แต่ยังไม่ได้นำไปใช้กับผลิตภัณฑ์ใด ๆ ของตน ทำไมถึงล่าช้า? เหตุผลหนึ่งอาจเป็นเพราะการใส่ลายน้ำข้อความที่สร้างโดย AI ไม่ใช่เรื่องพึงปรารถนาเสมอไป
หนึ่งในวิธีที่เป็นไปได้มากที่สุดในการรวม ChatGPT เข้ากับผลิตภัณฑ์คือเป็นเครื่องมือที่ช่วยให้ผู้คนเขียนอีเมลหรือเป็นตัวตรวจสอบการสะกดคำที่ได้รับการปรับปรุงในโปรแกรมประมวลผลคำ นั่นไม่ใช่การโกงอย่างแน่นอน แต่การใส่ลายน้ำข้อความที่สร้างโดย AI ทั้งหมดจะตั้งค่าสถานะผลลัพธ์เหล่านี้โดยอัตโนมัติและอาจนำไปสู่การกล่าวหาที่ไม่ถูกต้อง
