中華民國內政部消防署全球資訊網->如何防患生成式AI失控？以第一次波灣戰爭凸顯的作戰型態為例

本文轉載自清流雙月刊112年11月號(No.48)；作者：世新大學兼任助理教授 ─ 宋啓成

AI雙面刃
　　AI是「讓系統或電腦設備有模擬人類思考模式、邏輯與行為的能力，且能自行透過數據分析的過程，持續校正、進化」，5 可使電腦在一定程度內達到自行思考、運作，無需人類在旁操控的地步。對科技日新月異，人際關係日益複雜的現代社會來說，AI的問世可說是人類邁向更美好未來的一項指標。
　　然正當這項新科技逐步發展的同時，諸如假照片、假訊息等錯偽資訊，因為生成式AI而發酵、擴散，甚至有危及國家安全可能時，我們該如何避免其失控？
　　歐洲議會於2023年6月中通過的「人工智慧法案」中，將潛意識操縱、社會信用評分、大規模遠程人臉辨別列為AI領域嚴禁發展事項。就是從功能上為生成式AI設限，即便失控亦可將損害降至最低。

防範失控的AI
　　雖說這是全球第一份監督AI科技發展的官方法案，但立法顯然趕不及彌補生成式AI失控所產生的亂象，仍有賴在設施方面的強化。對此，筆者以為，藉由系統性的思考，在立法防範的同時，政府應帶頭與業界合作，集思廣益找出可能窒礙及解決方法。簡言之，可能與生成式AI運作相關、構成一系統的「必要」元素，應在立法規範的同時，藉訂定規格、程式碼更新等手段，取得業界支持，或許可產生一種「防火牆」效應，盡可能阻擋錯誤、假訊息產生與散布。
　　現代社會是一個講求集體的社會，各環節彼此緊密相扣，任一環節發生問題便極有可能危害到全體。防患生成式AI失控也是一樣，它既是透過系統來發揮效果，我們也應藉此概念加強防患，以享有更優質美好的科技發展成果。