Amazon Alexa แอบบันทึกบนสนทนาของผู้ใช้ และส่งต่อไปให้คนอื่นอย่างลับๆ

Posted by

จะน่ากลัวแค่ไหนถ้าปัญญาประดิษฐ์แอบดักฟังและบันทึกสิ่งที่คุณพูด แถมยังส่งข้อมูลนั้นต่อไปให้คนอื่น โดยที่คุณไม่รู้ตัว

นี่คือเรื่องจริงที่เกิดขึ้นที่เมืองพอร์ตแลนด์ สหรัฐอเมริกา เมื่อคู่สามีภรรยาได้ซื้อ Alexa คือ ระบบ AI ที่เป็นผู้ช่วยดิจิทัลของ Amazon

Alexa อยู่ในรูปแบบลำโพงแท่งยาวๆ ที่เรียกว่า Echo โดย Alexa สั่งงานด้วยเสียงของผู้ใช้ เราสามารถใช้เสียงควบคุมเครื่องใช้ไฟฟ้าต่างๆ สั่งให้มันเข้าอินเตอร์เน็ต เปิดเพลง สั่งของออนไลน์ ส่งข้อความเสียงหาคนอื่น ฯลฯ ผู้ช่วยดิจิทัลนี้ออกวางขายตั้งแต่ปี 2014

วันหนึ่งคู่สามีภรรยานั้นได้รับข้อความจากเพื่อนของเขาว่า “ถอดปลั๊กของ Alexa เดี๋ยวนี้ คุณกำลังโดนแฮค” เพื่อนคนนั้นอธิบายต่อว่า เขาได้รับข้อความเสียงที่ส่งมาจาก Alexa ของคู่แต่งงานนั้น และเล่าให้ฟังว่าข้อความเสียงนั้นมีเนื้อหาอย่างไรบ้าง ทำให้สองสามีภรรยาถึงกับช็อค เพราะมันเป็นเรื่องส่วนตัวที่พวกเขาคุยกันในบ้าน แต่จู่ๆ Alexa กลับบันทึกเสียงการสนทนานั้น และส่งไปให้คนอื่นโดยผู้ใช้ไม่รู้เรื่องด้วยเลย
 
คู่แต่งงานทั้งสองรีบติดต่อ Amazon และรายงานปัญหา ทีมเทคนิคของ Amazon วิเคราะห์สาเหตุ เขาดูประวัติการสนทนาในเครื่อง และให้คำตอบว่านี่คืออุบัติเหตุแบบ หนึ่งในล้าน

“ลำโพง Echo ถูกสั่งเปิดใช้งานโดยบังเอิญจากคำพูดของสองสามีภรรยา (ที่พูดกันสองคนอยู่อีกมุมหนึ่งของบ้าน) ที่มีคำใกล้เคียงกับคำว่า Alexa ซึ่งเป็นคีย์เวิร์ดเปิดการใช้งานลำโพง และนั่นทำให้บทสนทนาถูกบันทึกไว้โดยอัตโนมัติ จากนั้นคำพูดของทั้งสองคน ก็มีคำว่า send message ซึ่งบังเอิญตรงกับคีย์เวิร์ดที่สั่งให้ Alexa ส่งข้อความ”

 “จากนั้น Alexa ก็ถามผู้ใช้ว่า “จะให้ส่งให้ใคร?” ซึ่งจากคำในบทสนทนาของผู้ใช้ ระบบของ Echo ตีความจากเสียงที่ได้ยินว่าเป็นชื่อของเพื่อนคนหนึ่งใน contact list จากนั้น Alexa ก็ถามว่าถ้าต้องการยืนยันการส่งข้อความหรือไม่ ซึ่งในการพูดคุยของสองสามีภรรยาในตอนนั้นก็มีคำว่า right (ที่แปลว่าถูกต้อง) พอดี”

สองสามีภรรยาบอกว่าตัวแทนจาก Alexa ได้โทรศัพท์มาชี้แจงเหตุการณ์ทั้งหมด และได้ขอโทษผู้ใช้ไปไม่ต่ำกว่า 15 ครั้งตลอดการพูดคุย และทางบริษัทรับปากอย่างเป็นมั่นเป็นเหมาะว่าจะแก้บั๊กเพื่อไม่ให้เหตุบังเอิญแบบนี้เกิดขึ้นได้อีก

ในอเมริกามีผู้ใช้ Echo อยู่ไม่ต่ำกว่า 40 ล้านคน และเคสของ AI ที่ทำงานด้วยตัวเองแบบนี้ จะทำให้ผู้ใช้ตระหนกไม่น้อยเลยทีเดียว

 Daniel Kahn Gillmor ฝ่ายเทคโนโลยีของ American Civil Liberties Union มองว่าผู้ผลิตอุปกรณ์ผู้ช่วยดิจิทัล ณ ปัจจุบันกำลังหาวิธีเพิ่มความปลอดภัยของผู้ใช้มากขึ้น เช่น อุปกรณ์ที่มาพร้อมกับเซนเซอร์อย่างกล้องและไมโครโฟน จะมีสวิตช์เปิดปิดให้เห็นเด่นชัด ไม่ได้สั่งการด้วยเสียงเพียงอย่างเดียว 

หลายคนคงเห็นเทคโนโลยี Google Duplex ที่เข้าใจประโยคอันซับซ้อนในบทสนทนาของมนุษย์ และสามารถพูดโต้ตอบกลับไปได้อย่างเป็นธรรมชาติ จนคนที่ฟังแยกไม่ออกว่าเป็น AI หรือคนกันแน่ แต่กว่ามนุษย์จะวางใจปัญญาประดิษฐ์ได้ถึงขนาดนั้น เราจำเป็นต้องมีมาตรการที่ปกป้องความเป็นส่วนตัวของผู้ใช้อย่างเคร่งครัด เพื่อไม่ให้เคสแบบนี้เกิดขึ้นได้อีก

<<Back to Home

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s