การโต้ตอบของเรากับ AI Assistant นั้นไม่ได้เป็นส่วนตัวอย่างที่เราอยากจะเชื่อกัน เมื่อต้นปีที่ผ่านมารายงานจาก Bloomberg ซึ่งเปิดเผยรายละเอียดของ Alexa จาก Amazon ที่คล้ายคลึงกัน อธิบายว่าคลิปเสียงที่บันทึกโดยอุปกรณ์ Echo นั้นถูกส่งไปถึงผู้ดูแลที่เป็นมนุษย์เพื่อคัดลอกสิ่งที่ถูกพูดไปเพื่อมาปรับปรุงระบบ AI ของบริษัท
ที่แย่กว่านั้นคือคลิปเสียงเหล่านี้มักถูกบันทึกโดยไม่ตั้งใจ โดยปกติ AI Assistant เช่น Alexa และ Google Assistant จะเริ่มบันทึกเสียงเมื่อพวกเขาได้ยินคำสั่ง เช่น “โอเค Google” แต่รายงานเหล่านี้แสดงอุปกรณ์ที่มักจะเริ่มบันทึกโดยไม่ได้ตั้งใจ
โดยผู้ประกาศข่าวของ VRT NWS ซึ่งเน้นไปที่ผู้ใช้ Google Assistant ที่พูดภาษาดัตช์และภาษาเฟลมิช Human Contractors คนหนึ่งบอกกับสำนักพิมพ์ว่าเขาคัดลอกคลิปเสียงประมาณ 1,000 คลิปจาก Google Assistant ทุกสัปดาห์ และเขาก็ได้ยินเสียงผู้หญิงคนเดิมอยู่ที่ตกอยู่ในความทุกข์ แล้วรู้สึกว่าความรุนแรงจากทางร่างกายนั้นจะมีผลกับความทุกข์ของเธอด้วย
บริษัทที่เกี่ยวข้องบอกว่า การส่งคลิปเสียงไปยังมนุษย์เพื่อถอดความเป็นกระบวนการที่จำเป็นสำหรับการพัฒนาเทคโนโลยีการเรียนรู้จดจำเสียง พวกเขายังเน้นถึงการแบ่งปันเสียงที่บันทึกเพียงเล็กน้อยเท่านั้น ตัวแทนของ Google บอกกับ Wired ว่าเพียงร้อยละ 0.2 ของการบันทึกทั้งหมดถูกถอดความโดยมนุษย์และคลิปเสียงเหล่านี้ พร้อมข้อมูลของผู้ใช้จะไม่ถูกนำเสนอ
อย่างไรก็ตามนั้นไม่ทำให้หยุดการเปิดเผยข้อมูลส่วนตัวที่พวกเค้าทำการบันทึกไว้เอง และแน่นอนว่าบริษัทจะไม่เปิดเผยล่วงหน้าเกี่ยวกับกระบวนการถอดรหัสนี้ ตัวอย่างหน้าความปลอดภัยของ Google Home ไม่ได้กล่าวถึงการที่บริษัทใช้งาน Human Contractors หรือ ความเป็นไปได้ในการบันทึกข้อมูลผิดพลาดของ Google Home
“เราเพิ่งรู้ว่า 1 ในผู้ฟังเสียงเหล่านี้ได้ละเมิดนโยบายความปลอดภัยข้อมูลของเรา โดยมีการรั่วไหลของคลิปเสียงภาษาดัตซ์ที่เป็นความลับ” David Monsees ผู้จัดการผลิตภัณฑ์ในทีม Google Search ที่เป็นเจ้าของโพสที่ว่า “ทีมรักษาความปลอดภัยและความเป็นส่วนตัวของเราได้รั่วไหลออกไป ประเด็นนี้เรากำลังสืบสวนและจะเร่งดำเนินการ อย่างเต็มที่เกี่ยวกับมาตราการการป้องกันของเราเพื่อป้องกันการกระทำผิดซ้ำอีกครั้ง”
อ้างอิง: The Verge