yo大家,
我這週讀了Vitalik Buterin1 寫的一篇長文 — My techno-optimism,他在文中總結了自己對科技樂觀主義的解讀。這篇文章內容很廣泛,從我們如何有意識地運用科技來改善人類文明,AI跟其他科技不同、我們對AI的發展要格外小心,再到他認為一個偏好防禦的文明會更繁榮。雖然現在AI還是最火熱的話題,但不知道你是不是跟我一樣被他所說的「偏好防禦的文明會更繁榮」吸引過去?
Intro
簡單來說,科技可以被概括成三種:
Offense-favoring technology (以下簡稱:進攻型科技)
Defense-favoring technology(以下簡稱:防禦型科技)
Neutral(以下簡稱:中立型科技)
像是生化武器基本上就是個進攻型科技、疫苗可以歸在防禦型科技、發電廠比較偏向中立型科技。當然同一種科技在不同時間、地區、用途上也可以被分在不同類別中,例如飛彈可以拿來進攻,也可以拿來防禦。
Vitalik的意思是在可行的情況下,我們應該更多地發展防禦型科技。文中他也舉了幾個例子:
The more that the internet is secure, the less we need to violate people's privacy and use shady international diplomatic tactics to go after each individual hacker. The more that we can build personalized tools for blocking people on Twitter, in-browser tools for detecting scams and collective tools for telling apart misinformation and truth, the less we have to fight over censorship. The faster we can make vaccines, the less we have to go after people for being superspreaders.
其實提倡發展防禦性科技是從一個早已存在的研究領域 — Differential technology development來的。2022年一篇牛津大學發表的論文中提出三個能夠減少科技帶來的風險的原則:安全性科技不晚於帶來風險的科技、防禦型科技早於帶來風險的科技、如果有替代科技的話就用它取代帶來風險的科技(下圖)。
My take
我對科技一直都抱持著滿樂觀的態度,當新的技術出現時我第一個想到的都是它的正面應用。看到這篇文章後雖然沒有讓我改變對科技的樂觀,但卻也提醒了科技對社會的正面影響不是自然而然發生的,每個科技(其實任何東西都是)都有被濫用、誤用的風險,因此它們光鮮亮麗的背後其實我們都需要花許多心思來確保它被安全地使用,在AI、軍用科技、網路方面更是如此。
相信許多人跟我一樣喜歡酷酷的前沿科技,但當提到安全性、隱私權、公平性等方面時就開始打哈欠。但我在想,這會不會是我在科技發展的尺度下還不夠成熟的體現?就像是我們開發程式的同時要寫相對應的test來避免bug一樣,雖然一開始寫test很心不甘情不願覺得浪費時間,不過慢慢地就會覺得寫test是開發中不可或缺的一部分(我還真的有好幾次因為test而抓到自己的邏輯瑕疵,從而避免錯誤被擴大)。總之呢,我覺得就跟寫test一樣,開發新科技的同時,安全性、隱私權、公平性等等等議題都應該想成是開發的一部分,不該將它們當成拖慢進度的雜事。
科技發展的方向其實一直掌握在我們大家手中,目前我們做得不錯、還沒有什麼無法控制的科技,但未來還不好說,尤其AI或超級智慧本質上跟其他科技不同,可能不是加個開關就能防止的。總結來說,不管在什麼領域,當我們在開發攻擊型科技時也要同等或更加重視防禦型科技。讓這兩個技術互相對抗、互相道高一尺魔高一丈,這樣發展出來的科技才能從長遠來說是對我們有利的。如果我們都更加重視、偏好發展防禦性科技的話,或許真的可以避免危險科技落入有心人士手中、對我們造成危害。
你們對未來科技發展的看法是什麼呢?
Have a great week :)
-KY
Photo of the week
Vitalik Buterin is a Russian-Canadian computer programmer and co-founder of Ethereum.