
07/03/2025
The future of mental privacy in the neurotechnology age | Nita Farahany
https://www.youtube.com/watch?v=a4FnAJlKwy4
They cover:
• How close we are to actual mind reading.
• How hacking neural interfaces could cure depression.
• How companies might use neural data in the workplace — like tracking how productive you are, or using your emotional states against you in negotiations.
• How close we are to being able to unlock our phones by singing a song in our heads.
• How neurodata has been used for interrogations, and even criminal prosecutions.
• The possibility of linking brains to the point where you could experience exactly the same thing as another person.
• Military applications of this tech, including the possibility of one soldier controlling swarms of drones with their mind.
• And plenty more.
In this episode:
• Luisa's intro [00:00:00]
• Applications of new neurotechnology and security and surveillance [00:04:25]
• Controlling swarms of drones [00:12:34]
• Brain-to-brain communication [00:20:18]
• Identifying targets subconsciously [00:33:08]
• Neuroweapons [00:37:11]
• Neurodata and mental privacy [00:44:53]
• Neurodata in criminal cases [00:58:30]
• Effects in the workplace [01:05:45]
• Rapid advances [01:18:03]
• Regulation and cognitive rights [01:24:04]
• Brain-computer interfaces and cognitive enhancement [01:26:24]
• The risks of getting really deep into someone’s brain [01:41:52]
• Best-case and worst-case scenarios [01:49:00]
• Current work in this space [01:51:03]
• Watching kids grow up [01:57:03]
相關著作:The Battle for Your Brain: Defending the Right to Think Freely in the Age of Neurotechnology
──────────────────────────────
重點整理:腦機介面與神經技術的發展與影響
為了日後方便說明,筆者將這位Nita Farahany女士於Youtube Channel ”80,000 Hours”的訪談內容進行範圍面的解析。Nita Farahany女士(妮塔·A·法拉哈尼(Nita A. Farahany))是杜克大學羅賓遜·O·埃弗里特傑出法律與哲學教授,也是杜克科學與社會倡議的創始主任。她經常為國家媒體和廣播提供評論,並在包括TED、阿斯彭思想節、世界經濟論壇和全球司法會議等活動中擔任主題演講嘉賓。2010年至2017年,她曾擔任美國總統歐巴馬的生物倫理問題研究委員會的委員。她也是《法律與生物科學雜誌》的聯合主編,以及《科學美國人》顧問委員會的成員。法拉哈尼擁有達特茅斯學院的文學士(遺傳學)學位、哈佛大學的文學碩士(生物學)學位,以及杜克大學的法律博士、文學碩士和哲學博士學位,具有相當程度的專業和公信力。雖然她對於神經打擊武器的重要資訊之更新可能在數年以前,例如神經技術於情緒操作的涉入程度和意念應用之技術等,僅止於蜻蜓點水式的過場。然而,在神經技術研發和應用上的廣度和高度,以及對隱私和資安的憂慮、法律規範之制定的呼籲上有其相當不錯的見解,特別是在企業、政府可能將新技術用於商業與軍事之監控目的對社會的嚴重衝擊,這種憂心於身處科技和創新產業發達的美國和其研究與工作環境之經歷而言確實情有可原、有跡可循。因此,在面對當前AI興起和其應用之廣泛性所帶動的資安風險遽增的時代,我們必須成為其中的一員,與國際一同參與和制定AI與資安的相關議題和法規,使台灣可以在世界的舞台中不因忽視新現實和局勢所帶來的影響而慢慢地被其他國家擠下台。加強科普知識、參考過去的經驗、認真面對未來的挑戰是21世紀人類不可避免、刻不容緩的事實,「學如逆水行舟,不進則退」,這句話深刻地反映出當代國家在缺乏警覺和對外認識的情況下將造成甚麼樣的風險,並嚴重影響到社會的運作和國人的心理狀態。筆者仍以務實的態度和對真相的探索,將所發掘的重要資訊呈現、分享於大眾,望不久的將來人們將有足夠的能力、認知和成熟的態度去應對世界局勢所帶來的挑戰,使每一位都能成為台灣每一道最堅實的堤防。
───────────────────────────────
I. 腦機介面與情感治療
案例:一名重度憂鬱症患者接受腦內電極植入,追蹤並中斷異常神經訊號,使其恢復正常情感狀態。
技術原理:類似於腦部起搏器(Brain Pacemaker),當異常神經活動發生時,裝置能夠即時干預並重設神經訊號。(註:「即時」通常指的是 毫秒(ms)級別 的反應速度,這與腦部神經元的訊號傳遞速度一致。具體來說,它意味著當偵測到 異常神經活動(如癲癇發作、異常震顫、或其他神經疾病的特徵) 時,裝置能夠在極短時間內(通常在幾毫秒至數十毫秒內)進行干預,以 重設、抑制或調節 這些異常信號,使大腦回復到正常狀態。如果超過這個時間範圍(例如數百毫秒或數秒),大腦的異常活動可能已經擴展,影響更廣泛的神經網絡,使干預效果下降。因此,「即時」在此類技術中,通常指的是 與神經元活動頻率相匹配的極高速反應。)
潛在應用:若可追蹤特定神經放電模式,則可能用於干預其他類型的思想與情緒。(註:例如國安偵防、軍事情蒐等)
Neuralink 的植入式腦機介面(BCI)技術主要突破:
機器人手術:降低手術風險,讓植入技術更普及。
高密度電極陣列:提升腦信號解析度,減少雜訊。
無線傳輸:使用者可在日常環境中應用,而非受限於實驗室。
短期內,Neuralink 主要專注於醫療應用,例如:
幫助癱瘓患者恢復運動能力(腦機-脊髓介面)。
提供腦控打字功能,讓無法言語者透過意念溝通。
長期目標可能包含人類增強(Cognitive Enhancement),但目前面臨:
監管挑戰:現行法規只允許治療用途,而非增強用途。
技術風險:侵入式植入可能導致感染、組織排斥等問題。
Elon Musk 長遠目標可能包括:
「心靈互聯」(Brain-to-Brain Communication):讓人類能直接以思想溝通。
「大腦升級」:透過 AI 與 BCI 結合,提高學習速度與計算能力。
但技術現狀仍遠離《駭客任務》(The Matrix)式的「即時學習」場景。
當前仍以治療為主,增強應用可能需要數十年才能實現。(註:效果有限)
───────────────────────────────
II. 神經技術的進展與社會影響
思維解碼技術:腦電波(EEG)與解碼技術、腦波、刺激技術、神經介導
研究已能以 80% 以上的準確度解碼人類內心思考的完整段落。(註:意即資訊索取和運用的完整性仍偏低,因此在實際應用上,作為「掩蓋(Cover)」、「偽裝(Camouflage)」其技術性不足的相關技術之需求性仍高。)
未來或可透過「腦內唱歌」解鎖手機,運用腦部數據於監控、生產力評估、甚至談判策略。(註:針對「談判策略」處於保留的態度,然而根據使用者情況進行評估之策略分析和『應用』於初步上是可行的。例如「關鍵觸發點」、強化語言表達、控制談判節奏及偵測思維疲勞等。)
傳統人類表達方式受限於「鎖喉」(chokeholds),即語言與手眼協調的限制。神經接口技術(Neural Interface)可以消除這些限制,使思想直接傳輸到設備或他人腦中。
研究案例:華盛頓大學的實驗,三人團隊玩類似「俄羅斯方塊」的遊戲,透過腦波控制旋轉方塊,準確率超過 80%。(註:這案例已經有一段時間了,當科普意思意思就可以了。)
EEG(腦電圖)技術:能監測大腦電波,但受限於噪音(如肌肉運動、眼部活動)。(註:EEG噪音的定義,在BCI AI應用場景中,核心關鍵在於:
非神經源的干擾信號(如肌電、眼電、外部環境噪音)
影響AI解碼準確性與即時性的因素(如錯誤識別、信號污染)
對應方法需平衡準確性與反應速度(如自適應濾波、神經網絡降噪)
這些噪音的控制,決定了BCI在實際應用中的穩定度與即時反應能力。)
fMRI(功能性磁振造影)技術:能夠更深層解析大腦活動,但速度慢,難以實時應用。
現代進展:
無需凝膠的「乾式 EEG」感測器可整合進耳機、帽子等裝置中。
AI 幫助解碼腦波訊號,如識別簡單情緒(開心、壓力)或基本指令(旋轉、不要旋轉)。
大腦訊號的讀取與寫入技術:目前技術在「讀取」大腦訊號上已相當進步,而「寫入」技術則仍在發展階段。(註:「寫入」(Write-in) 技術在腦機介面 (Brain-Computer Interface, BCI) 或神經技術 (Neurotechnology) 領域,通常指的是將外部訊息或刺激輸入大腦,以改變或影響大腦的神經活動。這與「讀取」(Read-out) 技術相對,後者主要是解碼大腦活動並將其轉換為可用的數據,如思想轉換成文字或操控設備。
「寫入」技術的主要定義與發展方向:
電刺激 (Electrical Stimulation)
透過電極直接對特定腦區施加電流,以影響神經活動。例如:
深腦刺激 (DBS, Deep Brain Stimulation):用於治療帕金森氏症、抑鬱症等。
顱內電刺激 (ECoG-based Stimulation):用於神經復健或控制假肢。
磁刺激 (Magnetic Stimulation)
經顱磁刺激 (TMS, Transcranial Magnetic Stimulation):利用磁場改變大腦的神經活動,應用於憂鬱症治療與認知功能研究。
光遺傳技術 (Optogenetics)
透過基因工程,使神經細胞對光信號產生反應,進而控制特定神經元的活動。目前主要用於動物研究,但有人類應用的潛力。
藥物與生化介導技術 (Neuropharmacological & Biochemical Approaches)
透過特定化學物質或藥物,影響神經傳導物質的釋放,進而改變大腦功能。例如:
智能藥物 (Nootropics) 用於提升認知能力。
神經植入物 (Neural Implants) 可釋放藥物來影響情緒或記憶。
超聲波刺激 (Ultrasound Neuromodulation)
利用聚焦超聲波影響深層腦區的神經活動,潛在應用包括疼痛管理、情緒調節等。
AI 介導的神經調控 (AI-assisted Neurostimulation)
結合 AI 來分析大腦活動,並精確調控輸入信號,例如透過閉環系統實時調整刺激模式。
目前技術瓶頸:
解析度與精確度:影響單個神經元或神經網絡的精準度仍有限。
長期安全性:對腦部的長期影響未完全明確,例如慢性發炎或神經元適應性變化。
可逆性與倫理問題:如何確保輸入訊息的可控性,避免強制影響個人意識或記憶。
整體而言,「讀取」技術已經達到較高水準,例如透過非侵入式 EEG (腦波圖) 或侵入式 BCIs 來解碼思想、運動意圖等。但「寫入」技術仍在發展中,主要挑戰在於如何精準、無創、可逆地影響大腦,而不會產生長期副作用或倫理爭議。)
一個案例:一名嚴重抑鬱症患者透過植入電極追蹤大腦中特定神經放電模式,並在發生異常時透過神經調控技術中斷信號,使其情緒恢復正常。
這種技術類似於「大腦起搏器」,能夠糾正異常神經信號,使患者重獲正常情緒狀態。
神經技術的潛在風險:
腦機介面(BCI)裝置若具備神經刺激功能,可能成為駭客攻擊目標。
假設有人駭入這類設備,可能會對使用者的思維模式進行干預,例如透過刺激製造暈眩感、影響情緒,甚至干擾正常行動能力。
目前在神經技術領域的資安投資仍不足,未來需強化防禦機制,以防止惡意攻擊對個體造成傷害。
軍事應用與未來展望:
超級士兵計畫:
腦機介面(BCI)可讓士兵用意念操控無人機群,提升戰場效率。
透過腦波識別,預測士兵是否察覺目標,並即時回饋指揮中心。(註:可行性高)
研究腦對腦通訊(Brain-to-Brain Communication),探索無聲交流的可能性。(註:「無聲交流」(Silent Communication)在「腦對腦通訊」(Brain-to-Brain Communication, B2B 或 BCI-BCI)研究中的定義,通常指的是不依賴傳統語言、聲音或肢體動作的資訊傳遞方式,而是透過神經活動的直接連結來共享訊息或意圖。這種交流模式涉及以下核心概念:
無語言性(Non-verbal):不使用語言或文字,而是直接透過大腦活動傳遞訊息,例如情緒、概念或圖像。
無聲性(Silent):不發出聲音或音波,而是利用腦電訊號、磁場或其他神經介質來傳遞資訊。
神經介導(Neural Mediation):依靠腦機介面(Brain-Computer Interface, BCI)或腦對腦介面(Brain-to-Brain Interface, BBI)來進行訊息傳輸,而不是透過口語、手勢或文字輸入。
直接意識傳遞(Direct Transfer of Thought or Intentions):跳過傳統的語言轉換過程,而是讓一個大腦的狀態影響另一個大腦,使對方「理解」或「感受到」特定的訊息。)
軍事領域的應用之一是避免通訊被敵方攔截、破解。
目前最接近 B2B 的技術是一種基於腦波的簡單訊號傳輸,如光閃信號代表「是」或「否」。(註:0與1的二元概念仍是程式運作的起源。)
腦波刺激與「摩斯密碼式」溝通:腦波刺激技術可引發特定感覺,如:
視覺閃光(刺激視覺皮層)→ 可用來傳達「是/否」指令。(註:目前已知的為似瞳孔放大的透光、增光效果。)
暈眩或醉酒感 → 可作為戰場上的非語言信號。(註、「暈眩或醉酒感作為戰場上的非語言信號」的概念,主要涉及腦波刺激技術對戰場溝通與戰術運用的可能性。這種技術可以通過外部設備(如電磁脈衝、經顱磁刺激TMS或定向能武器)來調控大腦的感知,使個體產生特定的主觀體驗,例如暈眩、失去平衡感、類似醉酒的錯亂感。這種方式可以被設計為一種默契的戰場信號,在某些情境下具有戰術價值。
可能的戰場應用:
隱蔽式溝通
在無法使用無線電或語言交流的環境(如電子干擾區、隱匿行動)中,透過短暫的暈眩感作為「撤退」、「停止」、「注意危險」等暗號。例如,一名士兵接收到指揮官發出的腦波刺激,突然感到短暫的眩暈,這代表「任務取消,立即撤離」。
敵我識別與心理戰
針對戰場上的己方人員,利用事先約定的「暈眩信號」來識別是否為自己人,類似於「摩斯密碼」式的交流。針對敵方,則可利用這種技術影響其判斷,使其誤以為身體異常,削弱戰力或製造混亂。目前的腦對腦傳輸仍需預先約定訊號,例如「看到指定閃光 = 行動」,類似於摩斯密碼。
戰術掩護與干擾
透過定向能武器或腦波刺激,使敵人產生短暫的醉酒感或失去平衡感,影響敵方射擊精準度或行動能力,從而提供戰術優勢。
在進行突襲時,先讓敵人產生「暈眩感」,削弱其反應能力,然後趁機發動攻擊。
這種技術的關鍵在於「非語言」與「隱蔽性」,它可以成為一種無需外部設備的戰場指令,尤其適用於高科技戰爭、特種作戰或電子戰環境。這種「腦控式摩斯密碼」**雖然尚未大規模實現,但其概念已逐步被軍事戰略學者與國防科技研究機構所關注。)
無線、安全溝通:士兵可用腦波隱密交流,避免無線電訊號被敵方攔截。
強化士兵能力:透過腦機接口提高決策速度,甚至創造「超級士兵」。(註:或是「最高指揮官」)
無意識目標識別(Subconscious Target Identification):大腦可在意識到目標前,就基於特徵自動標記潛在威脅,加速決策過程。(註:在「無意識目標識別(Subconscious Target Identification)」的概念中,「特徵」 指的是大腦在意識到目標之前,基於演化、生理或學習經驗,自動識別並標記潛在威脅的關鍵資訊。這些特徵通常涵蓋以下幾個層面:
1. 低級感官特徵(Sensory Features)
這些特徵是透過視覺、聽覺、嗅覺等感官自動處理的,例如:
運動模式(Motion Patterns): 突然加速、異常移動方式(如蛇的爬行或掠食者的撲擊)。
對比度與邊緣(Contrast & Edges): 高對比度物體(如黑色武器在明亮背景下)。
聲音頻率與節奏(Sound Frequency & Rhythm): 尖銳、不規則或類似威脅的聲音(如野獸的低吼或武器上膛聲)。
氣味特徵(Olfactory Cues): 焦油、血腥味或其他與危險相關的氣味。
2. 高級語意特徵(Semantic Features)
這類特徵涉及認知層面的處理,通常來自個人經驗或文化學習,例如:
武器形狀(Weapon-Like Shapes): 例如槍械輪廓、刀刃的反光。
敵對肢體語言(Hostile Body Language): 如握拳、快速接近、遮掩手部動作。
環境異常(Contextual Anomalies): 例如穿著厚重外套的個體在炎熱天氣中(可能藏有武器)。
表情與注視模式(Facial Expression & Gaze): 憤怒、焦慮、閃爍不定的目光。
3. 神經科學層面特徵(Neuroscientific Features)
杏仁核激活(Amygdala Activation): 大腦的杏仁核對威脅相關特徵(如憤怒表情、危險物品)具有高度敏感性,可在毫秒級的時間內觸發防禦反應。
皮層下處理(Subcortical Processing): 這種處理允許在不經過意識層面分析的情況下,迅速做出反應,例如在視網膜接收到潛在危險物體的影像時,大腦下視丘可直接將信號傳遞至杏仁核,而不必經過視覺皮層的完整處理。
這些「特徵」不一定需要意識介入,而是大腦在演化或學習過程中自動建立的識別模式,使得個體能夠在意識到目標前,先行標記潛在威脅,從而加速決策與反應速度。)
多巴胺刺激 → 可影響士兵的心理狀態或決策能力。
認知戰(Cognitive Warfare):
透過資訊操控與心理影響,改變敵方認知與決策能力。
可能涉及微波武器、神經打擊武器,如美國情報單位調查「哈瓦那症候群」(Havana Syndrome)案例。
───────────────────────────────
III. 監控與隱私問題
腦波識別與大腦生物識別技術:
個人獨特的神經訊號可作為身分驗證,比指紋與人臉辨識更難破解。
腦波識別技術 可作為一種身份驗證方式,類似於指紋或臉部辨識。
目前主要應用於「身份驗證」(Authentication) 而非「身份識別」(Identification),因為尚未確認每個人的神經訊號是否完全獨一無二。
功能性生物識別 (Functional Biometrics):即便是相同的語句或音樂,每個人腦波的反應模式都不同,因此可作為個人專屬的身份憑證。
軍方對腦生物辨識技術特別感興趣,因其可用於安全驗證,並提供更難偽造的身份識別方式。
一些政府正在研究這種技術,以開發更安全且無聲的身份認證方式,例如透過思考特定詞句來解鎖設備或進入安全區域。
應用潛在優勢:
相較於傳統密碼,腦波識別更安全、不易被破解。
透過「功能性生物識別」,用戶可隨時更改驗證方式,例如每天更換不同的思維模式作為密碼。
應用潛在風險;
與指紋與臉部辨識技術類似,腦波數據可能會在未充分理解其影響的情況下被廣泛使用。
這些數據可能被企業或政府用於商業與監控目的(註:自然也包括軍事、國安用途),例如:
廣告分析:分析用戶對不同廣告、政治宣傳的無意識反應。
行為監控:記錄用戶在不同環境下的腦波變化,推測其情緒與思維模式。
數據商業化:將腦波數據作為一種新型「生物數據資產」進行交易。
政府可強制獲取個人腦數據,例如病患使用植入式電極來控制癲癇發作時,政府或可索取數據來確認行為責任。
隱私與倫理挑戰:
腦機技術可用於解碼思想、監控個人情緒,可能侵犯個人隱私。
資訊操控與大規模監視系統的發展,可能帶來社會不公與政府濫權的風險。
由於人們已習慣以便利性換取隱私(如使用Face ID解鎖手機),未來大腦生物識別技術可能會無意間成為主流。
一旦這類設備成為日常生活的一部分,使用者可能不自覺地讓企業與政府獲取其大腦活動數據,最終導致「最後的隱私堡壘」崩潰。
這不僅涉及個人資料安全問題,也關乎思想自由與個人意識的自主權。
與竊聽或手機監控類似,腦數據監控可導致極端的奧威爾式監控社會。
企業與政府的監控範圍擴大,可能導致思想自由的侵害。
企業監視 vs. 個人隱私:員工無法訪問自己的腦數據,但雇主可全權查看並利用。
心理操控風險:企業可能利用腦數據來評估員工是否對薪資調整滿意,並根據大腦反應決策,影響了薪資談判與職涯發展。
腦科技的發展將使監控從「行為監視」升級為「思想監視/審查」,政府與企業可通過腦數據獲取個人內心活動。
社會分化:富人可利用技術增強自身能力,擴大貧富差距。
人們在數位平台上的每一次互動,都可能伴隨腦波監測,並被行銷與認知塑造(cognitive shaping)。
當前的數位平台以廣告收益為主要商業模式,導致:
企業競相收集與剝削大腦數據。
操控使用者認知與行為,以增加黏著度(成癮機制)。(─科技公司與經濟誘因的調整)
必須調整誘因,使科技產業與認知自由保持一致,避免無限制的腦數據開採。(─科技公司與經濟誘因的調整)
應建立「心理隱私權」(Right to Mental Privacy),限制政府與企業對個人腦數據的存取權限,避免極權監控社會的形成。
需要全球協議,建立倫理規範,確保技術發展不會侵犯人權。
Fitbit數據 vs. 腦數據在法律與監控上的應用:
Fitbit數據:被動收集用戶活動信息(如移動、睡眠狀態),警方可通過傳票獲取數據來證明個人行為。
腦數據:
阿聯酋:用於審訊,嫌犯需佩戴EEG頭盔,通過腦電波的「誘發反應電位」來判定是否識別某個信息(如罪案細節、恐怖分子名字)。
印度已使用類似技術多年,並面臨憲法挑戰。[1:00:45]
法律挑戰:個人可利用腦數據為自己辯護(如證明當時正處於癲癇發作),政府也可利用此數據來監控個人行為,甚至推測內心想法。
大型科技公司對腦技術的投入:
Meta:收購Control Labs,開發腕戴式EMG設備,解讀手部運動意圖。
Apple:研發內建EEG傳感器的AirPods,並在Apple Vision Pro中使用眼動追蹤來推測腦部狀態。
其他科技巨頭(微軟、谷歌、IBM等)均積極關注腦科技應用。
EEG監測工作疲勞度:
「SmartCap」技術已使用超過十年,通過EEG分析工人警覺程度,應用於長途卡車司機、礦業與航空業。
員工與管理層皆可獲取腦數據以評估工作狀態。
生產力監控與雇主監視:
企業應用:某企業已在1000名員工身上測試此技術,通過腦數據決定辦公模式、聘雇與解雇決策。
風險:
員工可能無意識地向雇主提供思維與情緒數據。
監管與合約自由市場難以防止濫用,可能演變為強制性監控。
腦機植入可能會改變個人對自身的理解,甚至導致「自我連續性中斷」的問題。(註:「自我連續性中斷」(Disruption of Self-Continuity)指的是個體對於自身作為一個統一且持續存在的實體的認知受到干擾或斷裂,導致個體感知上的「自我」不再與過去的自己保持連續性。這種情況可能出現在極端的心理或神經變化中,例如創傷性腦損傷、嚴重的解離性障礙,或者如腦機植入技術所引發的認知重構。
在腦機植入的背景下,「自我連續性中斷」可能源於以下幾種機制:
意識與認知的改變:植入設備可能會影響大腦的運作方式,使得個體的思維、情感或記憶模式與過去不同,從而產生「我已經不是過去的我」的感受。
自主性與控制感的削弱:如果腦機接口能夠直接影響決策或行為,個體可能會產生「這是我自己的想法嗎?」的疑問,進一步削弱自我認同感。
記憶與身份的重塑:某些腦機技術可能增強或改變記憶,甚至導入外部信息,這可能使個體對自己的過去產生質疑,影響個人身份認知。
外部影響與內在自我的界限模糊:當個體的思維與外部數據系統高度整合時,「內在自我」與「外部輸入」的邊界可能變得不明確,導致個體無法確定自身的想法是否源於自己。
這種「自我連續性中斷」的現象可能帶來深遠的倫理、心理和社會影響,尤其是在植入技術變得普及且能夠改變個人認知與行為的情況下。)
手術可能無意間影響同理心或其他心理層面,使一個人成為「不同的人」。
如何確保「知情同意」是一個關鍵問題:人們如何在未知自己「未來的自我」會如何變化的情況下做出明智決定?
植入式神經科技:目前受到較嚴格的監管,如 FDA(美國食品藥品監督管理局)對於植入設備的審查較為完善。(─監管與治理)
消費級神經科技(如非侵入式 BCI 設備):監管幾乎為零,可能導致隱私與安全風險。(─監管與治理)
UNESCO 啟動多年的相關研究。(─國際關注)
OECD(經濟合作與發展組織)在 2019 年發布監管原則。(─國際關注)
歐洲 多國開始討論相關政策。(─國際關注)
智利 已在憲法中納入神經權利。(─國際關注)
美國 在此議題上的討論較少,尚未有明確監管框架。(─國際關注)
───────────────────────────────
IV. 結論:技術發展、社會影響之機遇與風險並存
對於一般公眾而言,這類技術的發展多數仍不為人知,可能帶來倫理與隱私問題。
目前技術已進入實驗階段,但尚未廣泛應用。
目前科技仍存在噪聲問題,數據質量尚未達到足夠精確的水平,但已被用於關鍵決策(註:屬高風險決策之可能性應用)。[1:10:16]
隨著 AI 進步,未來 5-10 年內腦機技術將快速發展,並可能大規模影響社會。
神經技術可能是人類歷史上最具變革性的科技,既可促進人類福祉,也可能成為極權監控工具。
其影響取決於數據處理方式與應用方向,需建立適當的法規與倫理規範,以確保科技發展符合人權與社會利益。
腦機介面與腦波識別技術的進步帶來便利與安全性提升,但其資安風險與隱私問題值得關注。
需要更強的監管與防護機制,以確保這些技術不會被濫用,侵害個人自由與隱私權。
數據精確性問題:目前腦數據仍受噪聲影響,測量肌肉抖動、眼動等非純腦活動信號,可能導致誤判。
目前世界正在朝向「大腦透明度」發展,但大眾尚未意識到這種變化的衝擊。(─大腦透明度與認知自由的挑戰)
這將改變職場、政府互動、社會關係,甚至讓每個人成為神經行銷(neuromarketing)對象。(─大腦透明度與認知自由的挑戰)
這種技術進步帶來的挑戰,使我們需要捍衛「認知自由」(Cognitive Liberty)。
必須重新定義人權,納入「認知自由」的概念,包括:
心理隱私權(Mental Privacy):保護個人思想不受監視或干預。
思想自由權(Freedom of Thought):免於思想被操控或懲罰。
自我決定權(Right to Self-Determination):擁有對自身思想與意識的掌控權。(─認知自由與人權框架)
法律與政策應該確保雇主、政府、科技公司不會侵犯這些權利。(─認知自由與人權框架)
認知自由是數位時代的新興人權,需要法律保障心理隱私與思想自由。
科技公司的商業模式必須調整,避免過度收集與操控腦數據。
Neuralink 目前仍聚焦醫療應用,但長遠可能走向人類增強技術。
監管機構對於腦機介面技術的態度,將決定其發展速度與影響範圍。
如果植入設備具有「讀寫」功能,黑客或惡意勢力可能入侵並改變人的行為,使其成為「受控制的個體」。
問題在於,當這種改變發生時,個人或社會如何察覺這些影響是來自外部入侵而非個人的自由意志?(註:「如何察覺」在這裡的定義,應該包含識別、判斷與驗證三個層次,具體而言:
識別(Recognition)
能夠察覺自身或社會的思想、行為、情感模式發生了顯著變化。
例如:某些觀點、習慣、信念在短時間內發生劇烈轉變,或大範圍人群的態度異常一致化。
判斷(Evaluation)
分析這些變化的成因,特別是區分內在因素(個人經驗、學習、成長)與外在因素(信息操控、環境刺激、群體影響)。
例如:是否是因為新的客觀資訊導致觀念改變?還是某種信息強行塑造了自身的認知?
驗證(Verification)
透過交叉比對不同的信息來源、回溯自身思維變化歷程,來確認這種影響是否來自外部干預(如AI算法、心理戰、輿論引導等)。
例如:對比不同文化、不同媒體的信息是否存在強烈的不對稱性?是否有外部勢力試圖誘導某種信念或情緒?
因此,「如何察覺」的核心問題,在於個人或社會能否具備足夠的「信息素養」與「批判思維」,來進行持續的自我審視與環境分析,並且願意接受「自己可能正受到操控」這一假設,以進行進一步的驗證與行動調整。)
目前規模較小,可能不會有針對高層領袖的攻擊,但未來如果大規模應用,則風險可能激增。
全球社會必須及早制定規則,以避免科技濫用與社會不公。
受訪者興奮點:最期待的事情不是技術,而是孩子的成長,透過孩子的視角重新發現世界的美好。
需要更多倡議來確保監管與技術發展同步。(─如何促進正向發展)
應透過投資、政策、教育等方式推動「認知自由」理念的普及。(─如何促進正向發展)
神經科技的最佳情境:
幫助個人冥想、專注、減少干擾,增強大腦健康與幸福感。
允許個人選擇與誰共享想法,甚至實現「真正的共感」。
確保隱私與選擇權,避免企業和政府利用腦機數據進行監控或控制。
神經科技的最壞情境:
監控工具,政府或企業大規模使用 BCI 來進行「認知戰」。
腦機數據被企業收集、出售,成為新的商業模式。
個人行為受到外部操控,而自身無法察覺。
主張「認知自由是一項基本人權」,應該作為監管與政策制定的基石。(─認知自由(Cognitive Liberty)作為核心概念)
需要建立一個促進認知自由的科技生態系統:
企業應投資於增強認知自由的技術,而非削弱它的技術(如注意力剝奪型產品)。
支持隱私友好的 BCI 公司,如 OpenBCI,確保數據不被外部利用。(─認知自由(Cognitive Liberty)作為核心概念)
Read through the docx document:
https://docs.google.com/document/d/1A81B60wcSVAwiccPzR3z7Ei5TpyZSTqv/edit?tab=t.0
_Originally released December 2023._ In today’s episode, host Luisa Rodriguez speaks to Nita Farahany — professor of law and philosophy at Duke Law School — ...