พนักงานชาวเคนยาที่ฝึกฝน AI ของแว่นตา Meta กล่าวว่าพวกเขาเห็นช่วงเวลาที่เป็นส่วนตัวที่สุดของผู้ใช้

การสอบสวนโดยหนังสือพิมพ์สวีเดน Svenska Dagbladet และ Göteborgs-Posten ได้เปิดเผยว่าพนักงานตามสัญญาในเคนยาที่ได้รับการจ้างงานโดย Sama ซึ่งเป็นบริษัทเอาท์ซอร์สของเคนยาที่ให้บริการด้านการติดป้ายกำกับข้อมูล เพื่อช่วยฝึกระบบ AI ของ Meta Platforms ถูกเปิดเผยต่อภาพและวิดีโอส่วนตัวที่ถ่ายโดยผู้ใช้แว่นตาอัจฉริยะ Ray-Ban ของบริษัทอย่างลึกซึ้ง

รายงานที่เผยแพร่เมื่อวันที่ 27 กุมภาพันธ์ ได้เผยให้เห็นแรงงานมนุษย์ที่ซ่อนอยู่เบื้องหลังการพัฒนาปัญญาประดิษฐ์แบบสวมใส่ของ Meta และทำให้เกิดคำถามใหม่เกี่ยวกับการคุ้มครองข้อมูล การถ่ายโอนข้อมูลข้ามพรมแดน และผลกระทบทางจิตใจต่อผู้ตรวจสอบเนื้อหาที่ทำงานให้กับ Sama ในไนโรบี

แว่นตาอัจฉริยะ Ray-Ban ของ Meta ที่พัฒนาร่วมกับ EssilorLuxottica ถูกทำการตลาดว่าเป็นผู้ช่วยที่ขับเคลื่อนด้วย AI ที่สามารถแปลภาษา บรรยายสภาพแวดล้อม ถ่ายภาพและวิดีโอแบบไม่ใช้มือ และตอบคำถามเกี่ยวกับสิ่งที่ผู้ใช้กำลังมองเห็น

อย่างไรก็ตาม นอกเหนือจากการนำเสนอที่ดูล้ำสมัย การสัมภาษณ์กับพนักงานปัจจุบันและอดีตพนักงานของ Sama และ Meta โดย Svenska Dagbladet ได้เปิดเผยว่าวิดีโอที่บันทึกผ่านแว่นตาถูกส่งไปยังเคนยาซึ่งอยู่ห่างออกไปหลายพันกิโลเมตร ที่ซึ่งผู้ติดป้ายกำกับข้อมูลจะตรวจสอบและติดป้ายกำกับเพื่อปรับปรุงประสิทธิภาพของระบบ

ความเป็นส่วนตัวถูกละเมิดอย่างเงียบ ๆ

พนักงานชาวเคนยาหลายคนบอกกับหนังสือพิมพ์สวีเดนว่าพวกเขาพบเจอสื่อที่มีความละเอียดอ่อนเป็นประจำในระหว่างการทำงาน รวมถึงฉากในครัวเรือนทั่วไปไปจนถึงช่วงเวลาที่เป็นส่วนตัวที่ผู้ใช้อาจไม่รู้ว่ากำลังถูกบันทึก

ในบางกรณี พนักงานกล่าวว่าวิดีโอมีข้อมูลทางการเงิน เช่น บัตรธนาคารที่มองเห็นได้ในเฟรม หรือการบันทึกที่ทำในพื้นที่ส่วนตัว เช่น ห้องนอนและห้องน้ำ

"ในวิดีโอบางส่วน คุณจะเห็นคนกำลังไปห้องน้ำหรือกำลังถอดเสื้อผ้า" พนักงาน Sama คนหนึ่งบอกกับผู้สื่อข่าว "ฉันไม่คิดว่าพวกเขารู้ เพราะถ้าพวกเขารู้ พวกเขาคงไม่บันทึก"

ผู้รับเหมารายอื่นอ้างว่าพวกเขาตรวจสอบวิดีโอที่แสดงผู้สวมแว่นตาวางแว่นไว้บนโต๊ะข้างเตียง จากนั้นภรรยาของพวกเขาเดินเข้ามาในห้องและถอดเสื้อผ้า โดยสันนิษฐานว่าไม่รู้ว่ากำลังถูกมอง วิดีโออื่น ๆ รายงานว่าแสดงผู้สวมแว่นตากำลังดูสื่อลามกหรือแม้แต่บันทึกตัวเองขณะมีเพศสัมพันธ์

ตามการสอบสวน มีความโปร่งใสเพียงเล็กน้อยสำหรับอุปกรณ์สวมใส่เหล่านี้ ผู้ค้าปลีกในยุโรปรายงานว่าให้ข้อมูลที่ไม่สอดคล้องกันเกี่ยวกับว่าข้อมูลที่บันทึกโดยแว่นตายังคงอยู่ในอุปกรณ์หรือถูกส่งไปยังเซิร์ฟเวอร์ของ Meta การทดสอบอิสระที่อ้างถึงในรายงานระบุว่าคุณสมบัติ AI หลายอย่างของแว่นตาต้องการการเชื่อมต่อคลาวด์ ซึ่งหมายความว่าภาพและข้อมูลเสียงสามารถถูกประมวลผลจากระยะไกลแทนที่จะเป็นในเครื่อง

ความเชื่อมโยงกับ Sama

Sama ซึ่งเดิมชื่อ Samasource ให้บริการติดป้ายกำกับข้อมูลแก่บริษัทเทคโนโลยีขนาดใหญ่ เช่น Meta และ OpenAI บริษัทถูกกล่าวหาในอดีตว่ามีการละเมิดด้านแรงงานในบางสัญญา โดยเฉพาะกับ OpenAI

Sama กำหนดให้มีข้อตกลงรักษาความลับที่เข้มงวดซึ่งจำกัดสิ่งที่พนักงานสามารถเปิดเผยต่อสาธารณะได้ แต่บัญชีที่เผยแพร่โดยหนังสือพิมพ์สวีเดนชี้ให้เห็นว่าคำสัญญาของ AI ที่ไร้รอยต่อนั้นขับเคลื่อนโดยระบบแรงงานที่ผู้ตรวจสอบที่เป็นมนุษย์คัดกรองข้อมูลดิบจำนวนมากที่ไม่ได้กรองเพื่อให้อัลกอริทึมสามารถเรียนรู้ที่จะจดจำวัตถุ สภาพแวดล้อม และบริบท

Meta ระบุในนโยบายความเป็นส่วนตัวว่าเนื้อหาของผู้ใช้อาจได้รับการตรวจสอบโดยมนุษย์เพื่อปรับปรุงผลิตภัณฑ์และรับรองความปลอดภัย สำหรับผู้ใช้ในยุโรป บริษัทในเครือของไอร์แลนด์มีความรับผิดชอบในการปฏิบัติตามกฎระเบียบการคุ้มครองข้อมูลทั่วไปของสหภาพยุโรป (GDPR)

อย่างไรก็ตาม การสอบสวนทำให้เกิดคำถามเกี่ยวกับวิธีที่ข้อมูลที่รวบรวมในยุโรปหรือสหรัฐอเมริกาถูกถ่ายโอนและประมวลผลในประเทศต่าง ๆ เช่น เคนยา ซึ่งไม่มีการตัดสินใจยอมรับความเพียงพอจากสหภาพยุโรปที่รับรองว่าระบอบการคุ้มครองข้อมูลของพวกเขาเทียบเท่ากับ GDPR

ในขณะที่การติดป้ายกำกับข้อมูล การตรวจสอบเนื้อหา และการฝึก AI ได้กลายเป็นสิ่งสำคัญต่อความทะเยอทะยานด้านเทคโนโลยีของไนโรบี งานเหล่านี้ซึ่งส่วนใหญ่เป็นของนักศึกษาและบัณฑิตจบใหม่ มาพร้อมกับค่าจ้างที่ต่ำ ภาระงานหนัก และการเผชิญกับสื่อที่น่ารำคาญ

Meta ได้ปกป้องแนวปฏิบัติของตนในแถลงการณ์สาธารณะก่อนหน้านี้ โดยกล่าวว่าบริษัทลงทุนในมาตรการป้องกันความเป็นส่วนตัวและลดปริมาณข้อมูลที่ใช้สำหรับการฝึกให้เหลือน้อยที่สุด อย่างไรก็ตาม บัญชีที่เผยแพร่โดยหนังสือพิมพ์สวีเดนชี้ให้เห็นว่าเส้นแบ่งระหว่างปัญญาอัตโนมัติและการกำกับดูแลโดยมนุษย์นั้นไม่ชัดเจนกว่าที่ผู้บริโภคจำนวนมากคิด