機器人三大法則太過簡單？微軟CEO發表AI人工智慧的六大法則

admin

微軟 CEO Satya  Nadella 就此發表了一篇文章，他認為人類在 AI 方面必須展開更深入的協調和協作，就設計的倫理和移情框架達成一致。
為此他提出了人工智慧需要遵循的六大原則，以及未來人類要想不被時代拋棄需要堅持和發展的四個東西。
Nadella 認為，未來的 AI 世界人和機器的關係不是非此即彼，而應該是人機攜手，共創未來。


機器人三大法則

科幻小說家艾西莫夫給了一個很好的起點，儘管還不夠充分：他在 1940年 代提出了 「機器人三大法則」 作為故事當中機器人的倫理守則。

艾西莫夫定律是層次化的，即第一原則高於第二原則，第二原則高於第三原則。

• 第一原則是機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；
• 第二原則是機器人必須服從人類的命令，除非這條命令與第一條相矛盾；
• 第三原則是機器人必須保護自己，除非這種保護與以上兩條相矛盾
  

AI發展的六大法則

為此，我思考了一些我們作為行業和社會應該共同討論和辯論的原則和目標。

1、AI 必須用來輔助人類：隨著我們開發出來的自動機器越來越多，我們需要尊重人類自治。協作式機器人（co-bots）應當從事採礦之類的危險工作，從而為人類豎起一道安全網和提供保護措施。

2、AI 必須是透明的： 人類應該要知道技術是如何運作的，它的規則是什麼。我們需要的不僅僅是智慧機器（intelligent  machines），而且是可理解的機器（intelligible  machines）。技術會瞭解人類的事情，但是人類也必須瞭解機器的事情。大家應該對技術如何審視和分析世界有瞭解。倫理和設計必須齊頭並進。

3、AI 必須實現效能最大化，同時又不能傷害人的尊嚴：它應該維護文化承諾，支援多樣化。在設計這些系統時我們需要有更廣泛更深入更多的各種互動。技術界不應該決定這個未來的價值觀和美德。

4、AI 必須用於智慧隱私：要有複雜的手段保護個人以及群體訊息，要能夠以增進信任的方式進行。

5、AI 必須承擔算法責任以便人類可以撤銷非故意的傷害。我們設計這些技術時必須考慮到預期和非預期的情況。

6、AI 必須防止偏見，確保進行適當的、有代表性的調查，從而防止錯誤的啟發法不會造成歧視。

人類與AI共存的四點法則

人類也必須遵守一些法則—尤其是在考慮清楚我們的後代必須考慮和培養哪些技能方面。為了不被時代拋棄，我們的孩子和他們的孩子需要有：

7、同理心—機器很難複製的同理心（Empathy）在人與 AI 共存的世界裡非常有價值。感覺到別人的想法和感受，協作和建立關係將會變得至關重要。

8、教育— 有人提出，因為壽命延長出生率會下降，因為在教育的投入也會降低。但我認為要想進行創新並管理好我們今天看不清楚的創新，我們就必須不斷加大對教育的投資 才能拔高我們的思考層次，才能獲得更加公平的教育產出。

新技術大規模實施所需的知識掌握和技能培養是一個非常困難的社會問題，要花很長時間才能解決。動力紡織機器在 1810年 就發明出來了，但是由於經過充分培訓的技工人手不足，服裝業完成革新卻花了 35年 的時間。

9、創造力— 創造力是最夢寐以求的人類技能之一，這一點不會改變。機器會繼續豐富和增強我們的創造力。小說家 Jhumpa Lahiri  最近在接受採訪中被問到，作為有特殊影響力的英國文學作家，為何要用自己的第三語言意大利語來進行新的文學創作？她說道：「不斷探索難道不就是創造力的要點 嗎？」

10、裁決和責任—我們也許願意接受一個電腦產生的診斷書或者法律判決，但我們更希望由人來最後對結果負責。