Research บอกว่าลบภาพลามกทารุณจากแหล่งการฝึกครรภ์ใช้ AI image-generator
นักวิจัยด้านปัญญาประดิษฐ์กล่าวว่า เมื่อวันศุกร์ที่ผ่านมาพวกเขาได้ลบลิงก์กว่า 2,000 ลิงก์บนเว็บไซต์ภาพลามกทารุณถูกสงสัยออกจากชุดข้อมูลที่ใช้สอนเครื่องมือสร้างภาพ AI ยอดนิยม
ชุดข้อมูลวิจัย LAION เป็นดัชนีขนาดใหญ่ของภาพออนไลน์และแคปชันซึ่งเป็นแหล่งที่ใช้ในการสร้างเครื่องมือAI ยอดนิยม เช่น Stable Diffusion และ Midjourney
แต่รายงานในเดือนธันวาคมของปีที่แล้วโดย Stanford Internet Observatory พบว่ามีลิงก์ไปยังภาพลามกทารุณของเด็กซึ่งส่งผลให้เครื่องมือ AI บางรายสามารถสร้าง deepfakes ที่สามารถสร้างภาพเสมือนจริงที่เขียนสร้างขึ้นแสดงเด็ก
รายงานเดือนธันวาคมนี้ทำให้ LAION ต้องลบชุดข้อมูลของตนทันที แปดเดือนต่อมา LAION กล่าวในโพสต์บล็อกว่าตอนนี้ได้ทำงานร่วมกับกลุ่มการเฝ้าสังเกตของมหาวิทยาลัย Stanford และองค์กรป้องกันการคุกคามในประเทศแคนาดาและสหราชอาณาจักร เพื่อแก้ไขปัญหาและปล่อยชุดข้อมูลที่ทำความสะอาดให้สำหรับการวิจัย AI ในอนาคต
นักวิจัยจาก Stanford และผู้แต่งรายงานเดือนธันวาคม David Thiel ชม LAION สำหรับการปรับปรุงอย่างมาก แต่กล่าวว่าขั้นตอนต่อไปคือการถอนจำหน่าย "โมเดลที่เปื้อนเป็นมลของเด็ก" ที่ยังสามารถสร้างภาพทารุณของเด็กได้อีก
หนึ่งในเครื่องมือที่ใช้ LAION ที่ Stanford ระบุว่าเป็น "โมเดลยอดนิยมสำหรับการสร้างภาพลามกทารุณ" - Stable Diffusion เวอร์ชันที่เก่าและมีการกรองหนักเหล็กยังคงเข้าถึงได้ง่ายจนถึงวันพฤหัสบดีที่ Runway ML ในนิวยอร์คได้ลบมันออกจากรีพอสิทอรีโมเดล AI Hugging Face บริษัท Runway กล่าวในคำแถลงว่า วันศุกร์นี้เป็น "การลดรูปลงของโมเดลการวิจัยและรหัสที่ไม่ได้รับการดูแลรักษาอย่างใจจด"
เวอร์ชันที่ทำความสะพรี้ะของชุดข้อมูล LAION เกิดขึ้นเมื่อรัฐบาลทั่วโลกกําลังพิจารณาวิธีการที่เครื่องมือเทคโนโลยีบางตัวถูกนําไปใช้สร้างหรือกระจายภาพลามกทารุณของเด็กํ
ซานฟรานซิสโกเมื่อเดือนนี้ทนายกรุงซานฟรานซิส๊ ไปฟ้องคดีเพื่อปิดหน้าเว็บไซต์บางกลุ่มที่ทําให้เกิดภาพเปลือยที่ถูกสร้างโดยใช้ AI ของผู้หญิงและเด็กผู้อายองการกระจาย ภาพลามกทารุณของเด็กในแอปส่งข้อความ Telegram เป็นส่วนหนึ่งของ เหตุที่ทําให้เจ้าหน้าที่ฝรั่งเศษแถลงวิชาการสําหรับเริ่งถึงโปรแกรมที่เกิดปัญหาผู้ก่อการกระจาย ที่ทําให้ Pavel Durov ผู้ก่อตั้งและ CEO ของแพลตฟอร์ม
Durov ของฟ้องอุปการชิดขึก ็ว่าเปลี่ยนแปลงใหญ่โตในอุตสาหกรรมเทคโนโในการที่ผู้ก่อตั้งโปรเเตมจะได้รับผิด ใน**เครื่องมือที่ได้**หลายวันล่างมันลูกจบลดลง
