“奇點”是指人工智能將超過人類智能和我們控制它的能力的時刻。科學家認為這一事件將發生在2045年左右。幸運的是,《奇異倒計時》(Countdown To Singularity)背后的藝術家們正在認真對待這種存在主義威脅。該項目的創始人兼策展人巴斯•范•德•波爾邀請參與者探討人工智能可能以何種方式將我們拖垮。
其結果是一系列的設想,從非道德的機械化武器系統的發展到稍微世俗一點的想法,即我們所有人最終都可能變成曲別針。點擊下面的提交選擇。你也可以訪問該項目的網站,或者點擊這里加入斯蒂芬·霍金、埃隆·馬斯克和史蒂夫·沃茲尼亞克等人的行列,共同簽署生命未來研究所呼吁進行人工智能安全研究的公開信。
自主武器選擇和交戰目標不需要人工干預。缺乏道德和死亡率可能迫使局勢升級,給平民帶來潛在的可怕后果。Gray Goo是一個假想的世界末日場景,描述的是失控的自我復制的納米機器人消耗掉地球上所有的物質,同時無限期地進行復制。機器將偷走你的工作有一半的可能性機器將取代你。時至今日,機器已經威脅到人類目前三分之一的工作。
這將導致更大的貧富差距,政治沖突和內戰。Paperclip Maximizer是一個思想實驗,展示了一個表面上無害的人工智能如何最終摧毀人類,它的唯一工作就是制造回形針。Roko的蛇怪由GolgothaInternet born設計,這個思想實驗是關于一個來自未來的全能人工智能,它會追溯折磨那些沒有主動幫助它存在的人。通過成功地將一個人的意識上傳到電腦上,就可以達到人類的智能。額外的計算資源將給它巨大的智力優勢。后人類世界可能只是一個人的自我和欲望的反映。
其結果是一系列的設想,從非道德的機械化武器系統的發展到稍微世俗一點的想法,即我們所有人最終都可能變成曲別針。點擊下面的提交選擇。你也可以訪問該項目的網站,或者點擊這里加入斯蒂芬·霍金、埃隆·馬斯克和史蒂夫·沃茲尼亞克等人的行列,共同簽署生命未來研究所呼吁進行人工智能安全研究的公開信。
自主武器選擇和交戰目標不需要人工干預。缺乏道德和死亡率可能迫使局勢升級,給平民帶來潛在的可怕后果。Gray Goo是一個假想的世界末日場景,描述的是失控的自我復制的納米機器人消耗掉地球上所有的物質,同時無限期地進行復制。機器將偷走你的工作有一半的可能性機器將取代你。時至今日,機器已經威脅到人類目前三分之一的工作。
這將導致更大的貧富差距,政治沖突和內戰。Paperclip Maximizer是一個思想實驗,展示了一個表面上無害的人工智能如何最終摧毀人類,它的唯一工作就是制造回形針。Roko的蛇怪由GolgothaInternet born設計,這個思想實驗是關于一個來自未來的全能人工智能,它會追溯折磨那些沒有主動幫助它存在的人。通過成功地將一個人的意識上傳到電腦上,就可以達到人類的智能。額外的計算資源將給它巨大的智力優勢。后人類世界可能只是一個人的自我和欲望的反映。