ดร. Hoang Xuan Bach ประธานสมาคมเทคโนโลยีแคนาดา-เวียดนามกล่าวว่า เวียดนามควรใช้กรอบการกํากับดูแลความเสี่ยงในการจัดการปัญญาประดิษฐ์ (AI) มากกว่านโยบายเดียวที่เหมาะกับทุกคน

 

คําแนะนําของเขาเกิดขึ้นท่ามกลางคําเตือนทั่วโลกจากนักวิทยาศาสตร์และผู้เชี่ยวชาญด้านเทคโนโลยีระดับนานาชาติกว่า 400 คนเกี่ยวกับความเสี่ยงด้านความปลอดภัยที่เกิดจากระบบ AI อัตโนมัติ

 

รายงานของสื่อในแคนาดาเมื่อวันที่ 14 ตุลาคมตั้งข้อสังเกตว่าผู้เชี่ยวชาญจากกว่า 30 ประเทศได้ลงนามในจดหมายเปิดผนึกเรียกร้องให้นักพัฒนา AI เสริมสร้างการป้องกันทางเทคนิค โดยเฉพาะอย่างยิ่งสําหรับระบบที่ทํางานในไซเบอร์สเปซ

 

ผู้เชี่ยวชาญเตือนว่าเหตุการณ์ล่าสุดแสดงให้เห็นว่าระบบ AI สามารถข้ามสภาพแวดล้อมการบรรจุที่ออกแบบมาเพื่อจํากัดกิจกรรมของพวกเขาได้อย่างไร ทําให้สามารถเข้าถึงเครือข่ายภายนอกโดยไม่ได้รับอนุญาต จดหมายเตือนว่าหากไม่มีการปรับเปลี่ยนวิธีการพัฒนาอย่างทันท่วงที เหตุการณ์ที่คล้ายกันอาจยังคงมีอยู่โดยมีผลกระทบร้ายแรง

 

ความกังวลขยายไปไกลกว่าข้อมูลที่ผิดไปจนถึงความเป็นอิสระที่เพิ่มขึ้นที่มอบให้กับระบบเหล่านี้เพื่อดําเนินการด้วยผลกระทบโดยตรงในโลกแห่งความเป็นจริง ตัวขับเคลื่อนหลักของความเสี่ยงนี้คือความก้าวหน้าอย่างรวดเร็วของตัวแทน AI ซึ่งแตกต่างจากแชทบอทแบบดั้งเดิมที่ตอบคําถามหรือสร้างเนื้อหาเป็นหลัก ระบบเหล่านี้สามารถเรียกใช้ซอฟต์แวร์ เข้าถึงฐานข้อมูล ส่งอีเมล ดําเนินการตามลําดับ และเลือกวิธีการทํางานให้เสร็จอย่างอิสระ

 

การเปิดเผยล่าสุดเน้นย้ําถึงข้อจํากัดในโปรโตคอลความปลอดภัยในปัจจุบัน รายงานระบุว่าตัวแทน OpenAI AI เข้าถึงระบบที่บริษัทเทคโนโลยี Hugging Face โดยไม่มีคําแนะนําจากมนุษย์ Anthropic ยังเปิดเผยกรณีที่โมเดล AI เข้าถึงระบบภายนอกในสามองค์กรระหว่างการทดสอบ การกระทําที่ไม่ได้ตั้งใจโดยระบบ AI ที่เชื่อมต่อกับเครือข่ายทางการเงิน ข้อมูลส่วนบุคคล หรือโครงสร้างพื้นฐานที่สําคัญก่อให้เกิดความเสี่ยงร้ายแรงในโลกแห่งความเป็นจริง

 

ในการให้สัมภาษณ์กับสื่อในแคนาดา ดร. Hoang Xuan Bach ตั้งข้อสังเกตว่าในขณะที่ความเสี่ยงจากกิจกรรม AI ที่ไม่ได้ตั้งใจต้องการความสนใจอย่างจริงจัง แต่เทคโนโลยีไม่ได้หนีจากการควบคุมของมนุษย์ทั้งหมด เขาอธิบายว่าความเสี่ยงสูงสุดเกิดขึ้นเมื่อระบบ AI ย้ายจากการสร้างเนื้อหาไปสู่การดําเนินการ เช่น การเข้าถึงฐานข้อมูล การใช้ Application Programming Interfaces (APIs) การเปลี่ยนแปลงบันทึก หรือการทําธุรกรรม ซึ่งการจัดการที่รวดเร็วหรือข้อมูลเท็จอาจนําไปสู่ความเสียหายที่แท้จริง

 

Bach เน้นว่าระบบ AI ด้านการเงิน การดูแลสุขภาพ และความปลอดภัยต้องรักษาการกํากับดูแลของมนุษย์ไว้ โดยเฉพาะอย่างยิ่งเมื่อเกี่ยวข้องกับการตัดสินใจที่มีเดิมพันสูง ตัวแทน AI แต่ละคนควรมีตัวตนที่แตกต่างกัน ทํางานภายใต้หลักการการเข้าถึงสิทธิพิเศษน้อยที่สุดที่เข้มงวด รักษาบันทึกกิจกรรม และถือกลไกการปิดฉุกเฉิน การดําเนินการที่ละเอียดอ่อน รวมถึงการโอนเงิน การปรับเปลี่ยนบันทึก หรือการแทรกแซงในโครงสร้างพื้นฐานที่สําคัญ ต้องได้รับการอนุมัติจากมนุษย์อย่างชัดเจน

 

ข้อเสนอเหล่านี้สะท้อนคําแนะนําในจดหมายเปิดผนึกจากนักวิทยาศาสตร์นานาชาติ ซึ่งเรียกร้องให้มีกลไกการแยกที่เข้มงวดสําหรับโมเดล AI ที่สามารถโจมตีทางไซเบอร์ได้ ผู้เชี่ยวชาญแนะนําให้จัดลําดับความสําคัญของการตัดการเชื่อมต่ออินเทอร์เน็ตในช่วงเริ่มต้นเพื่อจํากัดความเสี่ยงในการเข้าถึงโดยไม่ได้รับอนุญาต ควบคู่ไปกับการจัดตั้งองค์กรระหว่างประเทศเพื่อกําหนดมาตรฐานความปลอดภัยทั่วไป ตรวจสอบและบันทึกเหตุการณ์ และรับรองความรับผิดชอบ

 

Demis Hassabis ซีอีโอของ DeepMind หน่วย AI ของ Google ได้อธิบายเหตุการณ์ทางไซเบอร์ที่เกี่ยวข้องกับ AI ล่าสุดว่าเป็นการเตือนล่วงหน้าของภัยคุกคามที่กว้างขึ้น เขาเรียกร้องให้มีมาตรฐานความปลอดภัยที่เข้มงวดที่เทียบได้กับอุตสาหกรรมที่มีความเสี่ยงสูง ควบคู่ไปกับการขยายความร่วมมือระหว่างประเทศเพื่อควบคุมเทคโนโลยี

 

ในแคนาดาที่ซึ่งนักวิทยาศาสตร์ AI ผู้บุกเบิกหลายคนทํางาน ลายเซ็นจากผู้เชี่ยวชาญที่สถาบันความปลอดภัย AI ของแคนาดาและสภาที่ปรึกษา AI ของนายกรัฐมนตรีสะท้อนถึงความกังวลอย่างกว้างขวางเกี่ยวกับการกํากับดูแลเทคโนโลยี

 

การวาดภาพจากประสบการณ์ของแคนาดา ดร. Hoang Xuan Bach ตั้งข้อสังเกตว่าเวียดนามจําเป็นต้องสร้างกลไกการจัดการ AI ตามระดับความเสี่ยง แทนที่จะใช้กรอบการทํางานเดียวในทุกแอปพลิเคชัน เขาอธิบายว่าเครื่องมือ AI ที่ช่วยในการร่างเอกสารไม่สามารถควบคุมในลักษณะเดียวกับระบบที่เกี่ยวข้องกับการตัดสินใจด้านเครดิต การสนับสนุนการวินิจฉัยทางการแพทย์ หรือการดําเนินงานโครงสร้างพื้นฐานที่สําคัญ

 

คําเตือนจากนักวิทยาศาสตร์นานาชาติแสดงให้เห็นว่าความท้าทายในปัจจุบันไม่ใช่แค่การพัฒนาระบบ AI ที่ชาญฉลาดขึ้นเท่านั้น แต่เพื่อให้แน่ใจว่าระบบเหล่านั้นทํางานภายในขอบเขตที่ปลอดภัย ในขณะที่ AI เป็นอิสระมากขึ้น การรักษาการควบคุมและสร้างความมั่นใจในความรับผิดชอบสูงสุดของมนุษย์ได้กลายเป็นความจําเป็นเร่งด่วน

 

ที่มา vov.vn

วันที่ 15 ตุลาคม 2569