的了。
里歐·門尼斯：他們會很快產(chǎn)生分歧，爭吵不休。但我不認為他們能意識到。
荷瑞修:這樣，人就不可能組合成一個整體。如果是這樣，社會是如何出現(xiàn)的？
里歐·門尼斯：我早就告訴過你，社會出現(xiàn)在私人家庭中，但這個過程確實經(jīng)歷了各種各樣的困難和曲折，需要很多幫助的機會。只有在許多一代之后，才能形成社會的現(xiàn)實。
荷里修:我們知道人可以形成社會；但是，如果每個人天生就有一個錯誤的想法，那就是覺得一切都是為了自己，永遠無法覺醒，你怎么解釋社會的出現(xiàn)？
里歐·門尼斯：關(guān)于這個問題，我有以下觀點：為了生存，所有的動物都必須滿足他們自己的各種需求，讓物種繁殖一直是健康男性的需要，即使在他完全成熟之前。如果一對野蠻的男人和女人在很小的時候就認識對方，一起度過了50年，生活環(huán)境和氣候適宜，健康良好，食物豐富，那么他們很有可能繁殖許多后代。這是因為，在自然野蠻的狀態(tài)下，人們比所有有序社會都能接受的要快得多。如果條件允許，任何14歲的男人都會立即和一個女人住在一起。任何12歲的女人都不會反對。同樣地，所有12歲的男人都不可能一直求婚。
荷瑞秀：在這些人中，可能不可能阻止血親結(jié)婚。因此，一對野蠻男女的后代可能會在不久的將來擁有數(shù)百人。我可以確認這種情況會發(fā)生。因此，他們都是無能的父母，很少有人能教他們的孩子。因此，如果這些孩子在成年后不能分別形成好壞社會，那么父母就無法控制他們。你提到的每個人生來就有的錯誤想法是一個無法克服的困難。
里歐·門尼斯：根據(jù)你提到的錯誤想法，也就是說，人們認為他們有資格擁有一切。當然，人們會覺得他們能得到的一切都是他們自己的。因此，父母也會把孩子當作自己的財產(chǎn)，用它來影響孩子，讓孩子的行為盡可能滿足父母的需要。
荷瑞修:如果野蠻人不一貫執(zhí)著于追求什么，他們的利益在哪里？
里歐·門尼斯：當一種激情戰(zhàn)勝一切時，就要迎合它的需要。
荷瑞修：戰(zhàn)勝所有激情不斷變化，這樣的孩子估計很難管教。
里歐·門尼斯：這是非常正確的，但他們?nèi)匀豢梢员还芾怼Q句話說，能夠控制他們，強迫他們服從，至少當他們沒有足夠的能力拒絕服從時。先天的愛會鼓勵一個野蠻人寵壞他的兒子，讓他盡最大努力為他的兒子提供食物和其他必要的東西，直到他的12歲生日或更大。然而，這種關(guān)心并不是他必須迎合的唯一激情。如果他的兒子非常叛逆，或者做了他父親禁止他做的事，他的父親會感到非常生氣，而這種關(guān)心也會突然停止。如果他父親的憤怒上升到讓他生氣的水平，他很可能會打他的兒子。如果他打兒子傷痕累累，或者兒子的情況讓他憐憫，他的憤怒就會平靜下來，天生的愛就會再次出現(xiàn)，他會繼續(xù)寵壞他的兒子，并對自己的一切感到羞愧。因此，我們知道，如果我們知道所有的激情，我們最終都知道如何遠離痛苦，我們知道如何把所有這兩種激情結(jié)合在一起來，我們知道如何尊重新的父親。
荷瑞修:現(xiàn)在我都明白了。你讓我大開眼界。我清楚地了解社會的起源。
里歐·門尼斯:情況可能沒有你想象的那么清楚。
何瑞秀:為什么？那些艱難的困難已經(jīng)不存在了。沒受過教育的人長大后不能被治理，這是真的。在政府優(yōu)越性不顯著的地方，我們的屈服肯定不會發(fā)自內(nèi)心。然而，這兩個困難已經(jīng)消失了。我們年輕時對一個人的尊重很可能伴隨著我們的一生；只要是認可權(quán)威的地方，只要是人們敬畏權(quán)威的地方，管理所有的生物都不難。如果這樣的人能用權(quán)威壓制兒子，他就更容易利用權(quán)威利用孫子孫女。這是因為一個對父母沒有任何尊重的孩子，卻不會拒絕尊重讓父親無比尊重的人。而且，人的驕傲已經(jīng)能夠鼓勵他捍衛(wèi)自己現(xiàn)有的權(quán)威。如果孩子不服從他，他會想盡一切辦法讓別人幫忙，讓這種叛逆消失在無形中。家里的權(quán)威會從他的長子那里傳下來。
里歐·門尼斯：我認為你的結(jié)論有點太草率了。如果野蠻人理解事物的本質(zhì)，生來就有常識，就像亞當依靠奇跡一樣，生來就知道如何使用現(xiàn)成的語言，那么你提到的所有實現(xiàn)的可能性都是非常大的。然而，一只無知的動物，除了他自己的經(jīng)歷，對其他人一無所知，他根本不是治理別人的合適候選人，就像他根本不是教數(shù)學的合適候選人一樣。
荷瑞修:一開始，他最多要管轄一兩個孩子，他的
在2020的ICLR 在線會議上\b\u0005 ，蒙特利爾學習算法研究所主任，圖靈獎得主Yoshua Bengio和Facebook 副總裁兼首席人工智能科學家Yann LeCun \b\u0005 ，坦率地談?wù)撐磥鞟I研究趨勢 \b\u0005 。
根據(jù)兩位大咖的說法 \b\u0005 自我監(jiān)督學習可能會使自我監(jiān)督學習AI產(chǎn)生類人的推理能力 \u0006\u0005\u0006 \u0006\u0005\u0006。
自我監(jiān)督學習 \b，像人一樣有意識地觀察世界 監(jiān)督學習需要在標記的數(shù)據(jù)集上訓練AI模型 \u0006\u0005\u0006 \u0006\u0005\u0006，而 LeCun 認為隨著自我監(jiān)督學習的廣泛應(yīng)用 \b\u0005 ，這種訓練模式的作用將逐漸減弱 \b。自監(jiān)督學習算法不再依賴標注 \b，相反，通過揭示數(shù)據(jù)各部分之間的關(guān)系 \b\u0005 ，從數(shù)據(jù)中生成標簽 \b。
自我監(jiān)督學習是一種機器學習「理想狀態(tài)」 \b\u0005 ，重點是如何自動生成數(shù)據(jù)標簽 \b，這一步被認為對實現(xiàn)人類水平的智力至關(guān)重要\b。舉個例子 \b，例如，輸入圖片 \b，將圖片隨機旋轉(zhuǎn)一個角度 \b，然后將旋轉(zhuǎn)圖片輸入 \b\u0005 ，隨機旋轉(zhuǎn)角度作為標簽 \b。
很多網(wǎng)友關(guān)注的一個問題是 \b\u0005 ，自監(jiān)督學習和無監(jiān)督學習是一樣的嗎？\u0006\u0005\u0006 \u0006\u0005\u0006？
自我監(jiān)督類似于無監(jiān)督學習 \b，從沒有明確標簽的數(shù)據(jù)中學習 \b\u0005 。但無監(jiān)督學習側(cè)重于學習數(shù)據(jù)的內(nèi)在關(guān)系和結(jié)構(gòu)\b\u0005 ，比如clustering、grouping、density estimation,or anomaly detection等等 \u0006\u0005\u0006 \u0006\u0005\u0006，自我監(jiān)督是根據(jù)數(shù)據(jù)集本身生成的標簽\b\u0005 。
為了進一步解釋自我監(jiān)督學習 \b\u0005 ，LeCun做了類比 \b，「無論是我們?nèi)祟?\b，還是動物 \b，學習大多數(shù)事物時， \b， 都是在自我監(jiān)督下進行\(zhòng)b\u0005 ，而不是強化學習模式\b\u0005 。這種模式本質(zhì)上是觀察世界 \u0006\u0005\u0006 \u0006\u0005\u0006，然后不斷與之互動\u0006\u0005\u0006 \u0006\u0005\u0006，這種觀察是自發(fā)的 \b\u0005 ，而不是在測試條件下完成的 \b\u0005 。」LeCun表示 \b，「這種學習方法 \b\u0005 很難用機器復(fù)制 \b\u0005 ?！?/p>
其中 \b，不確定性是阻礙自我監(jiān)督學習成功的主要障礙 \b\u0005 。
連續(xù)分布和離散分布
數(shù)據(jù)的分布就是這樣一個表 \b\u0005 ，它將所有可能的變量值與其概率聯(lián)系起來\b。當變量離散時 \b\u0005 ，它們能很好地表達不確定性 \b，這就是為什么像Google BERT這樣的架構(gòu)太成功了 \u0006\u0005\u0006 \u0006\u0005\u0006。但目前 \b\u0005 研究人員還沒有找到有效地表達連續(xù)變量分布的方法 \b\u0005 。
測試斯坦福對話問答數(shù)據(jù)集時 \b\u0005 ，BERT 實現(xiàn)了93.2% 精度 \b\u0005 ，分別優(yōu)于最先進的機器學習水平和人類水平 \b\u0005 。斯坦福問答數(shù)據(jù)集是閱讀理解數(shù)據(jù)集 \u0006\u0005\u0006 \u0006\u0005\u0006，包含了一組維基百科文章中提出的問題 \b\u0005 NLP 系統(tǒng)資源集合\b\u0005 ，BERT80的準確率.4% \b。
解決連續(xù)分布問題LeCun認為 \b\u0005 ，找到一個可以表示連續(xù)分布的模型 \b\u0005 ，會有新的突破 \b\u0005 。
Lecun 指出 \b\u0005 連續(xù)分布問題的解決方案之一是基于能量的模型（EBM） \u0006\u0005\u0006 \u0006\u0005\u0006，它可以學習數(shù)據(jù)集中的數(shù)學元素 \b\u0005 ，并生成類似的數(shù)據(jù)集 \u0006\u0005\u0006 \u0006\u0005\u0006。
以前 \b，OpenAI基于能量的模型 \b，能快速學會識別和生成概念 \b\u0005 ，比如附近 \b\u0005 ，上 \b\u0005 ，中 \b，最近和最遠等 \u0006\u0005\u0006 \u0006\u0005\u0006，并表示為2D點集 \b\u0005 模型只在五次演示后學習了這些概念\b。
從過去的研究來看\b\u0005 ，這種形式的建模在實踐中很難應(yīng)用\u0006\u0005\u0006 \u0006\u0005\u0006，但Open AI 2019年的研究表明， \b\u0005 ，這種基于能量的模型可以支持復(fù)雜的拓撲（topologies） \u0006\u0005\u0006 \u0006\u0005\u0006。
Bengio 在討論中說 \b\u0005 他相信人工智能研究可以從神經(jīng)科學領(lǐng)域受益很多 \b，特別是對意識和意識處理的探索\b。當然，收入也是雙向 \b\u0005 ，一些神經(jīng)科學家正在使用卷積神經(jīng)網(wǎng)絡(luò)作為視覺系統(tǒng)的腹部通道 \b\u0005 。
Bengio預(yù)測 \b\u0005 ，新研究將闡明高級語義變量與大腦如何處理信息(包括視覺信息)之間的關(guān)系\b\u0005 。這些變量用于人類語言交流 \b\u0005 ，它們可能會衍生出新一代的深度學習模式 \b\u0005 。
「通過與基礎(chǔ)語言學習相結(jié)合 \b，我們可以取得很多進展\b，歸根結(jié)底，我們都在建立一個能夠理解世界的模型 \b\u0005 ，以及高層次概念是如何相互關(guān)聯(lián)的 \b\u0005 。這是一種聯(lián)合分布 \b\u0005 ，」Bengio 說 \u0006\u0005\u0006 \u0006\u0005\u0006?！肝蚁嘈?\b\u0005 ，人類意識處理過程 \b\u0005 ，利用世界如何變化的假設(shè) \b\u0005 ，這些假設(shè)可以理解為更高層次的表達 \b\u0005 。簡單來講 \b\u0005 ，我們看到了世界的變化 \b\u0005 ，然后想一句話來解釋這種變化 \b?！?/p>
另一個人類智力問題：背景知識 想要實現(xiàn)人類智力 \b\u0005另一個大問題是背景知識 \u0006\u0005\u0006 \u0006\u0005\u0006。正如 LeCun 解釋的 \b\u0005 大多數(shù)人可以在30小時內(nèi)學會開車\u0006\u0005\u0006 \u0006\u0005\u0006，因為他們用直覺構(gòu)建了一個關(guān)于汽車行動的物理模型 \b。相比之下 \b\u0005 ，無人駕駛汽車使用的強化學習模型應(yīng)該從零開始學習---- 他們必須犯成千上萬的錯誤 \b，只有這樣正確的操作 \b。
LeCun表示 \b，「顯然 \b\u0005 ，我們需要能夠構(gòu)建學習世界的模型\u0006\u0005\u0006 \u0006\u0005\u0006，這就是自我監(jiān)督學習的原因mdash;mdash;運行預(yù)測世界模型 \b，能讓系統(tǒng)學得更快 \b\u0005 。從概念上講\b，這很簡單 \b\u0005 ，除非是在我們無法完全預(yù)測的不確定環(huán)境中 \b?！?/p>
LeCun 認為 \b\u0005 ，要實現(xiàn)通用人工智能（AGI） \b\u0005 ，即使有自我監(jiān)督學習和神經(jīng)科學學習的祝福 \b，也是不夠的 \b\u0005 。
通用人工智能（AGI )是指機器獲得人類水平的智能 \b\u0005 AI（strong AI）或者完全AI（full AI） \b，或者說機器有執(zhí)行通用智能行為的能力（general intelligent action）的能力 \b\u0005 。
他說 \b\u0005 ，這是因為智力 \b\u0005 ，尤其是人類的智力 \u0006\u0005\u0006 \u0006\u0005\u0006， 很特別\b?！窤GI 不存在 \b\u0005 ，根本沒有通用人工智能這回事 \b\u0005 。我們可以談?wù)摾鲜蟆⒇埡凸返闹橇b，或者人類智力 \b\u0005 ，但根本不是通用人工智能 \u0006\u0005\u0006 \u0006\u0005\u0006?！筁eCun說 \u0006\u0005\u0006 \u0006\u0005\u0006。
\b \b\u0005 \b\u0005 \b\u0005
以上就是小編為大家介紹的圖靈獎得主Bengio和LeCun：可以自我監(jiān)督學習AI達到人類智力水平的全部內(nèi)容，如果大家還對相關(guān)的內(nèi)容感興趣，請持續(xù)關(guān)注上海危機公關(guān)公司
本文標題：圖靈獎得主Bengio和LeCun：可以自我監(jiān)督學習AI達到人類智力水平 地址：/yuqingchuli/2022/0216/3319.html
