2022 AI 回顧
今天(12/17)回顧 2022 年,發現有很多 AI 的突破,讓我備受感動! 以下就來盤點一下幾個我覺得很厲害的產品。
- (全能)自然語言處理模型 — ChatGPT
- AI 繪圖 — Stable Diffusion
- 蛋白質模型預測 — AlphaFold2
- 核融合的溫度維持
- 戰略遊戲 — CICERO
- 古希臘歷史文本判讀 — Ithaca
ChatGPT¶
今年最後一個月,OpenAI 推出了 ChatGPT,這次推出完全顛覆了我對 AI 的想像。 其帶給我的震撼,更甚當初 AlphaGo 下圍棋,而且正是因為它,我才有撰寫這篇文章的動力。
其目的主要是理解前後文的語意,給出適當的回應,而他做到了。
我們把各自手上所有的 NLP(自然語言處理)任務都測了一遍, 包括自然語言理解、對話狀態追蹤、回覆生成、對話摘要、表格問答、文檔問答、信息抽取、情感分析、詩詞歌曲創造、翻譯...等幾十個任務, 效果都非常的好。
...
不需要 in-context learning,開箱準確率達到 90%+,幾乎達到可以對外產品化販售。
來自林廷恩(自然語言研究者)的臉書
ChatGPT 能做到的事情太多了,以下幾個有趣案例:
- 玩文字版的 RPG,例如讓他扮演密室中的某一個人,給予其選擇和線索,最終讓他成功逃出。
- 整合 AI 繪圖,在短短數小時內,推出了純 AI 創作的兒童繪本。
當然,網友創意(跟時間)無限,期待未來能讓他有更厲害的應用! 另外如果你對內部運作有興趣,可以參考李宏毅老師的影片
Stable Diffusion¶
AI 繪圖無疑在今年大放異彩,不只是 Stable Diffusion, 還有 OpenAI 的 DALL-E。隨著發展,網路也出現越來越多奇耙應用,例如圖片動漫化等等。
但是其內在的演算法擴散模式(Diffusion Model)也不只是在繪圖有所應用。 像是有人把它延伸到蛋白質預測,達成輕量而又有準確度的模型。
AlphaFold 2¶
這個其實是 2020 推出的 AI,但隨著發展,今年不只是擴充了資料庫,也看到其實際的應用了。
蛋白質的組成並不複雜,由 21 種已知氨基酸構成,但真正困難的是其建構方式的排列和組合可以非常複雜。 然而 DeepMind 的 AlphaFold 2 卻做到了高於 90% 的預測準確度(第二名不到 60%)。
這裡要注意的是,AlphaFold 做的事情是 預測。 換句話說,如果我們要驗證這個預測,方式仍然是使用傳統的 X 射線、核磁共振或冷凍電鏡等。 但是這個過程是曠時廢日的,通常需要數月到數年的時間。
在 2022 年,AlphaFold 預測出了可能是造成漸凍人的蛋白質 核孔複合體 的樣子,而這個問題,科學家已經嘗試了長達數十年。
有了蛋白質的構造,我們就可以依此發展相對應的藥物和治療方法,所以蛋白質構造預測才會這麼重要。
Fusion¶
核融合需要極度高溫和高壓才有可觀的機率發生。 要成就這樣的環境不難,但問題是,要怎麼維持這個溫度?
會造成系統溫度降低是因為內部原子和外部原子進行碰撞把能量(動能)轉移到外部系統。 為了減少這件事情的發生,我們需要讓原子照著圓圈(tokmok)迴轉(當然還有一些縱軸的力來降低磁力的交錯影響, 詳見)。
DeepMind 發展了一種 AI 演算法,用雷射來協助系統維持能量,換句話說,維持熱能。
在 2022/12,美國國家點火設施發表已經成功達成輸出能量大於輸入能量。 雖說很多媒體宣稱核融合的時代來臨,但其實國家點火設施並不是核融合發電廠。 相較於核融合發電場,他不會處理氚的輻射和逸出(核融合是需要氘和氚和一些金屬才能有效達成)。
2024 相關論文推出
在 2024 年 2 月時, 相關單位推出了受五位同儕審視的論文, 其中說明了如何達成「點火」。
這和我上面講到的托馬克(tokmok)圓環沒有關係,它是讓雷射打進鑽石外殼的小膠囊, 並紀錄內爆的能量,達成點火。
這種方式有個最大的缺點:要怎麼利用獲得的能量?因為爆炸的能力是很難被利用的。 但是無論如何,「點火」的成就仍然鼓舞了許多投資者和研究員。
CICERO¶
Meta 開發的 CICERO 在一款鬥智鬥心機的遊戲 Diplomacy 中進入前 10% 的排名中。
Source from CICERO blog post
之前看到這個主題的時候有看到一段簡單的影片說明,現在找不到了! 但是... 我懷疑 ChatGPT 玩得會比他好。
之所以放進這個 AI,也算是我個人對於未來 AI 能玩星海或世紀帝國的一個小小憧憬吧!
Ithaca¶
DeepMind 在三月開發了 Ithaca,其用途在判讀古希臘文本的內容。
和人類歷史學家的 25% 預測率,Ithaca 達到了 62% 的準確率。 但是 Ithaca 並不是要取代人類,相反的,他是用來協助人類。 在人類和 Ithaca 一起判讀的情況下,他達到了高達 72% 的準確率。
結語¶
在最後介紹的 Ithaca,我們也可以看到雖然有些人會擔心機器將取代我們的工作, 但其實機器學習的真正價值是用來協助人類,讓我們能更快速的完成工作。
就像今年英國開始推行的一週工作四天一樣, 如果 AI 能幫助大家(已經確確實實有幫助了😂)在更短的時間內達到相同產能, 這時我們對於 AI,應該抱持的心態會是:我將如何(理解和)應用它?