據(jù)湯森路透基金會(huì)網(wǎng)站2017年11月6日報(bào)道，英國宇宙學(xué)家霍金說，技術(shù)可以改變生活的方方面面，但警告說人工智能帶來了新的挑戰(zhàn)。他說，人工智能和機(jī)器人已經(jīng)威脅到數(shù)百萬人的就業(yè)——但這場新的革命可以用來幫助社會(huì)并為世界謀福利，比如減輕貧困和疾病。

報(bào)道稱，在里斯本舉行的2017年網(wǎng)絡(luò)峰會(huì)開幕當(dāng)晚，霍金通過遠(yuǎn)程連線的方式說：“人工智能的興起可能成為人類歷史上糟糕的事情，也可能成為美好的事情。”他說：“我們只需要意識(shí)到這些危險(xiǎn)，找到它們，采取盡可能好的做法和管理手段，提前為其后果做好準(zhǔn)備。”

　　“人工智能”無疑是近期科技圈熱門的關(guān)鍵詞。隨著在深度學(xué)習(xí)等領(lǐng)域的一些關(guān)鍵性技術(shù)取得突破，人工智能技術(shù)在過去幾年中獲得了長足的發(fā)展，其應(yīng)用已經(jīng)深入到了生產(chǎn)生活的各個(gè)領(lǐng)域。但與其他許多科技行業(yè)不同，這一領(lǐng)域的研究不受正式安全法規(guī)或標(biāo)準(zhǔn)的約束，導(dǎo)致人們擔(dān)心人工智能終可能脫離人類控制的軌道，成為負(fù)擔(dān)而不是利益。2月21日，一份由25名技術(shù)與公共政策研究員共同發(fā)布的報(bào)告指出，快速發(fā)展的人工智能(AI)被惡意利用的風(fēng)險(xiǎn)呈上升趨勢，一旦遭黑客攻擊，或釀成無人駕駛的車禍，商業(yè)無人機(jī)也可能變成有針對性的武器。

　　這并非危言聳聽，甚至已有實(shí)例。2017年，浙江警方破獲了一起利用人工智能犯罪、侵犯公民個(gè)人信息案。專業(yè)黑客用深度學(xué)習(xí)技術(shù)訓(xùn)練機(jī)器，讓機(jī)器能夠自主操作，批量識(shí)別驗(yàn)證碼。“很短時(shí)間就能識(shí)別上千上萬個(gè)驗(yàn)證碼。”當(dāng)時(shí)的辦案民警介紹。

　　人工智能下一階段發(fā)展的關(guān)鍵在于，究竟該如何避免其被惡意操作，從而讓其更好助力經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步。這是業(yè)界和政策制定者共同關(guān)心的問題。

　　中國社科院文化法制研究中心研究員劉明說，技術(shù)帶來的問題，有時(shí)也可以用技術(shù)發(fā)展來解決。人工智能是一種工具，工具的發(fā)展也許不會(huì)從根本上改變行為的性質(zhì)，但會(huì)改變行為的模式和行為后果的烈度。“如果意識(shí)到自己所在行業(yè)存在人工智能帶來的威脅，自身加強(qiáng)防范就很重要。”

　　全國人大代表、科大訊飛董事長劉慶峰建議：“目前已有互聯(lián)網(wǎng)安全保護(hù)，但對于數(shù)據(jù)安全的等級(jí)設(shè)置、數(shù)據(jù)安全的追責(zé)機(jī)制，包括對用戶個(gè)人隱私方面的保護(hù)，相關(guān)法律法規(guī)還不夠健全。人們希望在這個(gè)時(shí)代大數(shù)據(jù)能夠充分地開放，但是在涉及國計(jì)民生的敏感數(shù)據(jù)時(shí)，一定要設(shè)置嚴(yán)格的安全等級(jí)，一旦這些數(shù)據(jù)發(fā)生泄露，對整個(gè)社會(huì)將產(chǎn)生極其嚴(yán)重的后果，這對人工智能和大數(shù)據(jù)產(chǎn)業(yè)發(fā)展將是非常大的沖擊和毀滅，因此要有嚴(yán)格的體系保護(hù)。劉慶峰覺得這對未來大數(shù)據(jù)和人工智能發(fā)展意義重大。”

　　科技部副部長王志剛建議，要加強(qiáng)安全監(jiān)管和評估，建立人工智能監(jiān)管體系，促進(jìn)人工智能行業(yè)和企業(yè)自律，切實(shí)加強(qiáng)對數(shù)據(jù)濫用、侵犯個(gè)人隱私、違背道德倫理等行為的管理；同時(shí)，加強(qiáng)法規(guī)政策研究，圍繞人工智能發(fā)展可能遇到的法律法規(guī)問題進(jìn)行超前研究，針對自動(dòng)駕駛、服務(wù)機(jī)器人等應(yīng)用前景廣闊的領(lǐng)域，加快研究制定安全管理?xiàng)l例。

　　全國政協(xié)委員、貴州貴達(dá)律師事務(wù)所主任朱山朱山建議，首先，應(yīng)啟動(dòng)人工智能“算法”安全風(fēng)險(xiǎn)評估體系的研究工作，“算法”是否存在缺陷，決定了生產(chǎn)者及研發(fā)者是否承擔(dān)民事責(zé)任；其次，鑒于人工智能帶來的民事法律問題復(fù)雜，輔以強(qiáng)制保險(xiǎn)制度具有必要性，及時(shí)、有效的化解相關(guān)的社會(huì)矛盾和糾紛；此外，啟動(dòng)人工智能創(chuàng)造物知識(shí)產(chǎn)權(quán)立法研究工作，明確人工智能創(chuàng)造物的利益歸屬規(guī)則，從而對人工智能創(chuàng)造物予以必要的保護(hù)。

　　全國人大代表、重慶市總工會(huì)掛職副主席楊帆認(rèn)為，隨著人工智能的發(fā)展，有些設(shè)備可能會(huì)對人身安全造成威脅，所以在人身安全的防御方面，要加以保護(hù)技術(shù)，國家層面上加快布局。楊帆表示，美國今年發(fā)布人工智能的法案，這是全球第一個(gè)人工智能的法案，歐盟今年將重點(diǎn)在人工智能方面進(jìn)行立法，中國一定要立法先行。

　　結(jié)語：人工智能發(fā)展需要加強(qiáng)安全監(jiān)管，但不能因噎廢食，為了保護(hù)所謂的“隱私”而放棄對技術(shù)可能性的探索。未來5-10年，依然會(huì)是人工智能的時(shí)代，在人工智能時(shí)代，切戒以犧牲安全為代價(jià)的粗放式增長，堅(jiān)決走“邊發(fā)展，邊治理”的科學(xué)之路。要充分認(rèn)識(shí)和評估每項(xiàng)“顛覆性創(chuàng)新”可能存在的漏洞或盲點(diǎn)并及時(shí)加以處置，盡可能降低人工智能發(fā)展中的風(fēng)險(xiǎn)。