通過探索 AI 如何模仿人腦來提高效率和學習速度,我們可以更好地理解人類的注意力如何在資訊泛濫的世界中受到挑戰,並找到強化自身專注力的方法。
開始一個系列,智慧時代的變革與思考
大模型的核心:注意力機制
現在的大模型比上一代更加智慧,上一代深度學習是基於對語言和語義的理解,而現在的大模型直接採用了人腦的機制——注意力機制。
打個比方,任何人看到一幅畫面,或多或少都會被某個部分吸引,而且這個吸引點因人而異。這個被吸引的部分就是注意力機制。在大模型的訓練過程中,通過樣本不斷地訓練注意力機制相關的參數,讓大模型能夠快速的抓住上下文的重點,以便生成最準確的內容。
再舉個例子,圖書館裡有藏書,為了方便檢索,每一本書都被做了標記。當任何人想要瞭解“ XX ”,系統會給根據要求給出相關條目以及條目的優先順序。
這時候大模型為提高效率,並不是所有的書都會仔細看。而是將一些關聯度高的條目認真閱讀,而關聯度低的條目做概要掃描,然後就就對檢索內容有全面的瞭解,之後就可以開始自動生成相關的內容。而注意力機制則是對應落地實現的一種高效演算法。
海量的數據加上注意力機製造就了現在的大模型,也把資訊技術從智慧 1.0 時代帶入到了智慧 2.0 時代。
當 AI 有了注意力機制,就不僅僅是演算法,不僅僅是機器,有了注意力機制就有了學習能力,不斷的反覆運算。
現在的 AI 越來越像人了,以至於很多人害怕被 AI 替代,這個是有根據的,因為人類的思考過程就是根據記憶包括已有的知識和經驗來進行決策和判斷。
而 AI 現在有記憶,知識儲備上也大於人類,通過不停的學習,在經驗上也超越人類。
在決策判斷環節,AI 在處理任務時,可以有意識地選擇最重要的資訊,忽略不相關的干擾。而人類的注意力機制則更加複雜和多變,受到情緒、環境、興趣和疲勞等多種因素的影響。
今天重點討論一下注意力
與 AI 相比,人類的注意力可以主動調節,但也容易被外界因素分散。
現在的人越來越難保持專注了,我們過去看長視頻,看電影,後來看綜藝,再後來看短視頻,看抖音,15 秒就需要一個刺激,我們越來越難在兩三個小時不去看手機了
為什麼我們的專注力越來越弱,是因為現在的世界是被資訊流覆蓋的世界,我們每天面對的是數以千計,數以萬計的消息,我們的資訊變得越來越快,每一份的時間變的越來越小,所以我們的注意力越來越散,我們要做的事情越來越多,導致我們的注意力越來越不夠用。
於是,我們越來越焦慮,越來越感到力不從心。
如何強化我們的注意力:
如是觀。要明白我們處於什麼樣的時代。瞭解 AI 的注意力機制,知道自己的注意力都放在哪裡。這意味著要時刻反思,我們的時間和精力都花在了什麼地方。
知識庫。不斷更新自己的認知,更新我們的知識庫,也就是讓自己的注意力權重,同時做減法,去掉不相關的事,不相關的念頭,有效的專注在更重要的事情上。
強心力。心力就是保持專注的能力,我們不停的刷抖音就是心力不足的結果,這就是獲取情緒價值來為心力買單。
參考書籍
《變革者:深度學習的未來》
“隨著注意力機制的不斷發展,它們將超越自然語言處理,成為包括計算機視覺和強化學習在內的各種人工智慧應用的核心。”
《注意力危機》
“網路似乎正在逐漸削弱我集中注意力和深思熟慮的能力。無論我是否在線,我的大腦現在都期望像網路分發信息那樣快速接收資訊:在快速移動的粒子流中。”
《注意力革命》
“我們注意力的品質決定了我們生活的品質。當我們的注意力不穩定時,我們的生活也會不穩定。但當我們的注意力穩定時,我們的生活也會變得穩定。”
你的注意力是能讓你有所產出的唯一資源。
——李笑來
題圖來自 Unsplash,基於 CC0 協定