原文發表於李忠憲臉書，芋傳媒經授權轉載。
我曾經有個學長，他是一個非常優秀的大氣物理學家，他主要的專長在預測氣候變遷，他曾經開玩笑講過一句話，他做的東西在他有生之年都不能確認正確或是錯誤，甚至死後很久很久也不可能。
我的大學直屬學弟本來是個優秀的資通訊學者，某個美國大公司研究機構的首席科學家，最近因爲人工智慧的高度發展，帶他的研究團隊出去開了一間公司，專門幫金融機構評估貸款壞帳的可能性，只要能夠降低 1%，對銀行就有很大的影響，增加很多的盈餘。
電腦程式的演算法已經深深地影響我們的世界，現在很多決策都由演算法來加以決定，從選舉攻防、公共策略、投資評估、貸款風險、保險費率、犯罪防範、廣告投入、入學許可等等，一直到連鎖餐廳要開多少分店，開在什麼地點，演算法都扮演了非常重要的決策角色。
人工智慧的角色是中性，是一堆莫名其妙數學和資料學習所構成，雖然它可以告訴我們效能趨勢的方向，但是它沒有良知良能，也沒有任何道德考量的可能。現在人類的社會如此盲目的信任人工智慧和演算法，除了可能惡意資料集之特殊目的的選擇訓練所造成的人為操縱結果，由以往數據分析訓練所選擇出來的方法，不會造成結構或革命性的改變，只能有改善的結果。
在盲目相信人工智慧可以造福人類福祉的同時，懷疑其模型建立的決策方式是件重要的事情，問題是它有數據作為基礎，雖然是不能呈現全貌的部分數據，我們有什麼？道德、良心和直覺嗎？
評論被關閉。