AI探索未來的智慧之旅

 中華民國6月13日星期五下雨天

作者——張瑞雄

@ChatGPT不是銀行的朋友。摩根大通銀行禁止員工在工作場所使用ChatGPT，可能是摩根大通的公司口號是「做正確的事」，而ChatGPT目前可能會胡謅答案。

@人工智慧可能完全破壞銀行的業務根本，即交易員為顧客提供有深度和高度的投資知識和建議， ChatGPT這樣的機器人對孵化出來的網路言論毫無概念的。

@英文中有一個字叫做Singularity，字典解釋是說某種不尋常或特殊的態度或行為。若用在數學中，就叫做奇異點或奇點，數學物件中無法定義的點，例如一個÷0的點。

@用在科技界，所謂的科技奇異點就是當機器智慧超越人類智慧，並以難以理解的速度加速的時候。

@已過世的英國物理學家霍金就說過：完整的人工智慧的發展可能意味著人類的終結，它會自行進步，並以越來越快的速度重新設計自己，受緩慢生物進化限制的人類將無法競爭，將被取代。

@ 通往AI之路最大瓶頸是軟體，而不是硬體。

@機器要擁有思想或一般人類的智慧涉及各種複雜和未知的神經科學和哲學問題，因此硬體進步的快速不是一個好的指標，讓硬體有智慧是完全不同的一回事，它不像將記憶體加倍那麼簡單。

@ A I： 2041是李開復撰寫的10篇A I科技文章，每篇文章解釋了該技術的不同方面及在未來20年的潛在影響，然後每篇AI科技都以陳楸帆寫的一篇短篇推理小說相結合。

@美國專利局強調人工智慧不符合發明者的資格，無法申請專利，因為它不是人。該機構認為，人工智慧是人們用來創造發明的工具。

@ AI P(The Artificial Inventor Project ) 爭辯說，國會立法一直在鼓勵創新，用Himself或Herself 只是一般的用法，沒有特別將「物」排出在外。

而且允許人工智慧擁有發明專利將帶來更多創新，它也會鼓勵人工智慧的發展，反之拒絕對人工智慧產生的發明進行專利保護，可能會因為未能鼓勵和保護具有社會價值的發明而破壞專利制度。

@如果未來A GI可以實現,它將是一個可以處理多個任務的人工智慧系統。

@ Shoot for the moon. Even if you miss, you’ll land among the stars.目標是上月球，即使失敗也會落在星星之間。對於大型科技公司來說， A G I是一個登月計劃，其中本身非常困難。但這種追求會產生許多附帶的好處，有有助於吸引頂尖研究和工程人員，以及商業上有用的狹窄，人工智慧也會跟著進步。

@ A G I的重要代表這應該停止在一個狹隘領域追求AI的絕佳性能，而是專注於盡可能讓AI再多個任務中的有廣泛的性能。

換句話說， A I該是一種萬事通，即使對本來一無所知的問題也可以透過自我學習來試著解決，就如人類一樣。

@蜜蜂的大腦只有大約100萬個神經元，但他們可以做很多人類想讓自動機器人、自駕車或無人機做的事情。

@蜜蜂可以了解空間構造，避免互相碰撞或逃離危險。牠們可以探索環境，建構一個新空間的準確地圖，並完成各種任務，還可以與其他蜜蜂交流複雜的訊息，甚至有實驗證據表明蜜蜂具有某種概念理解能力，包括將物體分類為相似或不同的能力，以及理解因果之間的某種關聯的能力。

@所以AI與其學習複雜的人腦，何不如從學習簡單的蜜蜂開始，先了解蜜蜂的大腦如何工作。

@ AI要自行執行任何類型的決策，就需要了解因果關係。任何超出預測的事情都需要某種因果理解，如果你想計劃一些事情，如果你想找到最好的策略，你需要某種因果推理能力。

@ChatGPT的最大問題之一是，不管回答是正確或是錯誤的，它會以同樣自信和優雅的方式來呈現。除非受到要求，否則它不會提供來源或引用的資料，這也是因為它聚集的大量各種形式的資訊，所以通常無法追蹤它如何獲取其知識和推論。

@ 所以不管人工智慧演算法有多厲害，你不給它很多很好的資料，當它開始要無中生有去推論時，什麼情況都有可能發生，因此，了解人工智慧的本質和知道你餵給它的數據是否是高品質就是最重要的。

@華生醫師由IBM和美國史隆凱特林紀念癌症中心合作開發，是一套A I的癌症治療輔助系統，能在17秒，讀完250本醫學書籍、三百多種醫學期刊及1500百多萬頁的論文研究資料，並在10分鐘內提出最佳治療、用藥建議及支持證據，讓醫生和患者可以據此討論出最適切的治療決策。

@ 在利用AI的國家，都有所謂資料工廠的出現，工人們連續花費數小時手動幫AI系統確定圖像內容或短信段落，工資非常低，當然這種低薪、沒成就的工作，很難找到工人，芬蘭的Vainu就找到了一個新的廉價來源，監獄囚犯。

@AI權利法案的五個重點：

1、免受不安全或無效系統影響的權利，當AI沒有被證明安全和有效之前，人類可以拒絕AI使用在自己身上。

2、免受演算法歧視的權利， AI系統必須是公平的。

3、資料隱私權，即人們應該控制有關他們資料的使用方式。

4、通知和解釋的權利，強調AI要能夠說明為何做出此決策或得到此結果。

5、人類最終的選擇權和考慮權，使人們能夠選擇退出和/或尋求人類的幫助來解決問題。

@當人類系統可能需要三到五年來做出決定時，例如打官司、醫療糾紛、一些福利的索賠，而一個強大且負責任的AI系統可以在幾個月內給他們一個答案，AI政策面臨的一個獨特挑戰是願望與實際不符。（第五點）

@AI權利法案訂定人類在面對AI系統時應該有的權利，那AI本身有沒有什麼權利，尤其在未來機器人越來越多時。

@在電影《變人》中，機器人開始有感覺和感情，渴望變成人類，人類是否可以如電影般將其隨意銷毁呢？

@英國作家和發明家，以撰寫科幻小說文明的克拉克爵士在其書2010 ：太空漫遊中說：無論我們是根據人類的福祉而使用AI，機器和人沒有根本區別，我們每個人都應該受到適當的對待和尊重。