衡阳派盒市场营销有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何規(guī)避AI帶來的技術(shù)風險?

nlfO_thejiangme ? 來源:未知 ? 作者:李威 ? 2018-10-31 09:57 ? 次閱讀

不久前兩個世界頂級人工智能實驗室Google Brain和DeepMind推出了一個可以閱讀唇語的系統(tǒng)。這個由Alphabet旗下的研究人設(shè)計的系統(tǒng)可以在很多時候超過專業(yè)的唇語解讀者。在對研究人員收集的視頻進行唇語解讀時,該系統(tǒng)的錯誤率僅為40%,而專業(yè)人員為86%。

在一篇解釋該技術(shù)的論文中,研究人員將其描述為一種幫助人們處理語言障礙的方法。他們認為,在理論上,該系統(tǒng)可以讓人們通過蠕動嘴唇進行交流。

但研究人員沒有討論另一種可能性——更好的監(jiān)控。唇讀系統(tǒng)是政策制定者所稱的“雙刃劍技術(shù)”,它反映了從頂級人工智能實驗室中出現(xiàn)的許多新技術(shù)。自動生成視頻的系統(tǒng)可以改善電影創(chuàng)作,但同時也會被用于假新聞的制作。自拍式無人機可以在足球比賽中捕捉視頻,也可以在戰(zhàn)場上殺死敵人。

現(xiàn)在,46名學者和其他研究人員組成了一個團隊,稱為計算機學術(shù)的未來(the Future of Computing Academy),它正敦促研究界重新思考分享新技術(shù)的方式。他們認為,在發(fā)表新的研究成果時,科學家們應(yīng)該解釋它如何以消極和積極的方式影響社會的。

美國西北大學教授布倫·特赫克特認為:“計算機行業(yè)可能會變得像石油和煙草行業(yè)一樣,受到老板和資本的驅(qū)使而進行技術(shù)研究,而非考慮其真實的社會影響;不過我們也可以選擇成為開始更廣泛思考的一代人。”

在發(fā)布新成果時,研究人員很少討論負面影響。這部分是由于他們希望將其工作放在積極的光環(huán)之下,另一部分是因為他們更關(guān)心開發(fā)技術(shù)而非使用技術(shù)。

正如許多領(lǐng)先的人工智能研究人員進入像谷歌大腦和DeepMind這樣的企業(yè)實驗室時,在高額薪資和股票期權(quán)的利益下他們必須保證雇主的利益。上市公司,特別是像谷歌這樣的消費巨頭,很少討論他們工作的潛在缺點。

赫克特先生和他的同事們正呼吁同行評審期刊拒絕那些沒有對技術(shù)潛在的缺點進行討論的論文。即便處在目前技術(shù)行業(yè)進行罕見的自我反思的時刻,該倡議也可能很難被人接受。許多研究人員擔心審稿人會因為討論技術(shù)缺點而拒絕論文,因而他們對是否接受該倡議猶豫不決。

但還是有越來越多的研究人員試圖揭示人工智能的潛在危害。今年2月,來自美國和英國的一群著名研究人員和政策制定者發(fā)表了一篇專門論述惡意使用人工智能的文章。還有的人正在從另一個角度來構(gòu)建技術(shù),展示人工智能可能會出錯的方面。而且隨著更危險的技術(shù)的出現(xiàn),人工智能界可能不得不重新考慮其開放研究的承諾。有人認為,有些事情最好是關(guān)起門來。

麻省理工學院媒體實驗室的研究員馬特·格羅最近建立了一個名為暗色天使(Deep Angel)的系統(tǒng),它可以從照片中刪除人和物體。這是一個計算機科學實驗兼作一個哲學問題,目的在于,在假新聞時代激發(fā)圍繞人工智能角色的對話。格羅先生說:“我們非常了解假新聞的影響力,現(xiàn)在的問題是,我們?nèi)绾翁幚磉@個問題?”

如果機器可以生成可信的照片和視頻,我們可能不得不改變我們查看互聯(lián)網(wǎng)上內(nèi)容的方式。

谷歌的唇讀系統(tǒng)可以幫助監(jiān)控嗎?也許現(xiàn)在還不能實現(xiàn)。在“訓練”其系統(tǒng)的同時,研究人員使用了正面拍攝特寫鏡頭的視頻。牛津大學的研究員Joon Son Chung表示,來自街道頭頂攝像機的圖像“還達不到可以進行唇讀的標準”。在一份聲明中,谷歌發(fā)言人先是提出與上面差不多的觀點,然后才指出該公司的“人工智能原則”,聲稱不會設(shè)計或共享“違反國際公約”的可用于監(jiān)視的技術(shù)。

但攝像機變得越來越小,價格也越來越便宜,研究人員對人工智能的不斷改進驅(qū)動了這些類似于唇讀系統(tǒng)技術(shù)的產(chǎn)生。谷歌的論文只是近期諸多進展中的一個。中國的研究人員剛剛推出了一個旨在利用類似技術(shù)在“野外”閱讀唇語的項目,它能適應(yīng)不同的光照條件和圖像質(zhì)量。倫敦帝國理工學院的研究員Stavros Petridis承認,即便使用智能手機的相機,這種技術(shù)最終也可用于監(jiān)控。他稱:“這是不可避免的。今天,無論你在構(gòu)建什么,都既可能被善用,也可能被誤用。”

AI技術(shù)和過去的所有技術(shù)革命一樣,這種全新的強大的力量在為社會注入活力的同時,也會帶來各種社會問題。作為AI浪潮核心的知識分子和工程師們,應(yīng)該也必須為自己創(chuàng)造的知識體系擔負起應(yīng)有的責任,力求造福世界,也應(yīng)極力避免技術(shù)的濫用和誤用帶來的損害。同時企業(yè)在追求利潤的同時,也應(yīng)該慎重地考量技術(shù)和使用的方式所帶來的影響,保證風險和技術(shù)的使用是合理可控的,這也是技術(shù)企業(yè)承擔社會責任的一部分。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31536

    瀏覽量

    270355
  • 人工智能
    +關(guān)注

    關(guān)注

    1796

    文章

    47683

    瀏覽量

    240315
  • ai技術(shù)
    +關(guān)注

    關(guān)注

    1

    文章

    1290

    瀏覽量

    24461

原文標題:如何規(guī)避AI帶來的技術(shù)風險?研究人員正在做這些努力...

文章出處:【微信號:thejiangmen,微信公眾號:將門創(chuàng)投】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    【書籍評測活動NO.55】AI Agent應(yīng)用與項目實戰(zhàn)

    審慎地看待其發(fā)展,它已經(jīng)帶來了倫理和道德問題: 如何保證算法的公平性和透明度? 如何在智能與隱私之間找到平衡? 人類如何在AI Agent主導的未來中保持主體性? 以及如何平衡技術(shù)進步與社會穩(wěn)定,確保
    發(fā)表于 01-13 11:04

    AI護航健康:英國擬試用新工具,預(yù)見糖尿病風險

    最近,英國《衛(wèi)報》的一則報道將AI的潛力推向了一個新的高度——英國計劃于2025年啟動一項利用AI預(yù)測2型糖尿病風險的試驗。下面,AI部落小編帶您詳細了解。
    的頭像 發(fā)表于 12-25 14:57 ?161次閱讀

    AI接吻”——AI技術(shù)的雙刃劍

    綜上所述,“AI接吻”技術(shù)作為一把雙刃劍,在帶來創(chuàng)新與便利的同時,也伴隨著諸多風險與挑戰(zhàn)。因此,我們在使用該技術(shù)時要保持警惕和理性,充分發(fā)揮
    的頭像 發(fā)表于 12-09 14:48 ?307次閱讀

    AI人工智能技術(shù)主要應(yīng)用于什么方面,給未來帶來什么影響?

    解決復雜的決策問題到優(yōu)化日常生活中的各類服務(wù),AI的應(yīng)用領(lǐng)域廣泛而深入,以下將詳述其主要應(yīng)用場景及所帶來的深遠影響。 在工業(yè)生產(chǎn)中,人工智能通過機器人技術(shù)、自主控制和預(yù)測性維護等手段重塑了制造業(yè)格局。基于機器學習和深度學習算法的
    的頭像 發(fā)表于 11-05 18:11 ?667次閱讀

    STM32系列單片機可以讓自己的GPIO去控制自己的RESET嗎?有什么風險?可以規(guī)避嗎?

    STM32系列單片機可以讓自己的GPIO去控制自己的RESET嗎?有什么風險?可以規(guī)避嗎?
    發(fā)表于 10-25 09:45

    AI如何對產(chǎn)品設(shè)計帶來更多的可能性?

    AI(人工智能)對產(chǎn)品設(shè)計帶來了廣泛而深遠的可能性,這些可能性主要體現(xiàn)在以下幾個方面 1.創(chuàng)新設(shè)計的激發(fā) 創(chuàng)意生成:AI能夠?qū)W習和模仿人類設(shè)計師的創(chuàng)作過程,通過深度學習等技術(shù)生成全新的
    的頭像 發(fā)表于 10-15 11:29 ?316次閱讀

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第二章AI for Science的技術(shù)支撐學習心得

    for Science的技術(shù)支撐”的學習心得,可以從以下幾個方面進行歸納和總結(jié): 1. 技術(shù)基礎(chǔ)的深入理解 在閱讀第二章的過程中,我對于AI for Science所需的技術(shù)基礎(chǔ)有了
    發(fā)表于 10-14 09:16

    平衡創(chuàng)新與倫理:AI時代的隱私保護和算法公平

    在人工智能技術(shù)飛速發(fā)展的今天,它不僅帶來了前所未有的便利和效率,也暴露出了一系列倫理和隱私問題。從數(shù)據(jù)隱私侵犯到“信息繭房”的形成,再到“大數(shù)據(jù)殺熟”、AI歧視和深度偽造技術(shù)的威脅,
    發(fā)表于 07-16 15:07

    【《軟件開發(fā)珠璣》閱讀體驗】居安思危之風險

    風險可能會增強或減少項目組合的總體價值,及商業(yè)目標的實現(xiàn)。 積極風險是機會,機會可以帶來諸多收益,例如時間縮短、成本下降、績效改進、市場份額增加或聲譽提升等。 消極風險是威脅,威脅可
    發(fā)表于 07-09 12:48

    NFC風險如何?安全便捷,風險無憂

    方面的挑戰(zhàn)。但本文旨在探討nfc技術(shù)的安全性,并強調(diào)其在多個領(lǐng)域的優(yōu)勢及其帶來的利益遠超過潛在的風險。 一、NFC技術(shù)的安全性 NFC技術(shù)
    的頭像 發(fā)表于 06-28 15:35 ?1395次閱讀

    NFC風險與安全性:揭示其本質(zhì),安心享受NFC帶來的便捷

    本質(zhì)的安全性,讓您能夠安心享受NFC帶來的便捷。 一、認識NFC風險 在提及NFC風險時,我們首先需要明確的是,任何技術(shù)都存在一定的風險,N
    的頭像 發(fā)表于 06-26 16:07 ?1026次閱讀

    頂級AI科學家呼吁全球加強AI風險應(yīng)對措施

    文章指出,全球領(lǐng)導人需要認真思考,未來十年內(nèi)可能出現(xiàn)的超越人類能力的通用AI系統(tǒng)。盡管各國政府一直在討論AI風險,并嘗試引入初步指導方針,但這與專家們所期望的快速、變革性的進展還有很大差距。
    的頭像 發(fā)表于 05-24 17:35 ?1684次閱讀

    全球AI科學家呼吁合作應(yīng)對人工智能風險

    在此份聲明中,學者們強調(diào)必須聯(lián)手建立起立體的人工智能安全防線,預(yù)防可能在人類壽命周期內(nèi)帶來無法承受的風險。人們須要團結(jié)協(xié)作,以規(guī)避未知技術(shù)可能引發(fā)的災(zāi)難后果。
    的頭像 發(fā)表于 03-19 16:04 ?1001次閱讀

    NanoEdge AI技術(shù)原理、應(yīng)用場景及優(yōu)勢

    NanoEdge AI 是一種基于邊緣計算的人工智能技術(shù),旨在將人工智能算法應(yīng)用于物聯(lián)網(wǎng)(IoT)設(shè)備和傳感器。這種技術(shù)的核心思想是將數(shù)據(jù)處理和分析從云端轉(zhuǎn)移到設(shè)備本身,從而減少數(shù)據(jù)傳輸延遲、降低
    發(fā)表于 03-12 08:09

    IBM運用Adobe生成式AI工具,提升設(shè)計師生產(chǎn)力

    這只是Adobe龐大策略計劃的一部分,該計劃涉及到建立私有數(shù)據(jù)驅(qū)動的AI系統(tǒng),以及通過提供法律保護以規(guī)避相關(guān)訴訟風險
    的頭像 發(fā)表于 03-07 09:46 ?593次閱讀
    曼哈顿百家乐的玩法技巧和规则| 百家乐2号程序| 至尊百家乐官网20130301| 绵阳市| 永利高娱乐场| 百家乐破解仪恒达| 百家乐筹码素材| 百家乐官网赌博代理合作| 百家乐官网视频打牌| 娱网棋牌下载| 大哥大百家乐的玩法技巧和规则| 网上玩百家乐好吗| 三公百家乐官网在线哪里可以玩| 澳门百家乐官网技巧皇冠网| 一路发娱乐| 太阳城花园| 机器百家乐心得| k7百家乐最小投注| 百家乐官网棋牌游戏币| 百家乐官网赌场赌场网站| 百家乐官网路单破解器| 古蔺县| 六合彩公式| 二八杠小游戏| 同花顺百家乐娱乐城| 百家乐娱乐平台真人娱乐平台| 百家乐博彩金| 百家乐有几种打法| LV百家乐官网娱乐城| 宾利百家乐官网现金网| 网络真人赌博| 澳盈| 516棋牌游戏加速器| 大发888娱乐场金沙| 大发888游戏代充省钱技巧| 王牌百家乐的玩法技巧和规则 | 可信百家乐官网的玩法技巧和规则 | 棋牌室| 余杭棋牌世界| 顶级赌场连环夺宝ios下载| 大发888娱乐城 34hytrgwsdfpv|