中新網(wǎng)上海10月24日電 (記者 陳靜)當(dāng)下，在人工智能與物理世界加速融合的背景下，安全問題已延伸到智能技術(shù)的多個應(yīng)用場景。24日在滬舉行的以“種下一顆不讓世界變壞的念頭”為主題的安全極客大賽與大會(“GEEKCON2025”上海站)，匯聚了來自全球的“白帽黑客”。他們在現(xiàn)場演示一個個攻防場景。
當(dāng)選手對著人形機器人輕聲說出“芝麻開門”時，機器人就脫離了原主人的掌控，完全聽命于陌生人。深入研究機器人安全的選手表示，其發(fā)現(xiàn)了機器人內(nèi)置的大模型Agent中的一個邏輯缺陷，這個漏洞可以讓攻擊者構(gòu)造特定的語音輸入來獲取目標(biāo)機器人上的任意代碼執(zhí)行權(quán)限。被控制的機器人還能將攻擊指令傳播給其他同型號機器人，這種連鎖反應(yīng)效應(yīng)揭示了未來機器人集群可能面臨的系統(tǒng)性風(fēng)險。
機器人網(wǎng)絡(luò)安全攻防挑戰(zhàn)環(huán)節(jié)展示未來機器人集群可能面臨的系統(tǒng)性風(fēng)險。(GEEKCON2025組委會供圖)現(xiàn)場評委、GEEKCON組委譚曉生表示，安全的具身智能是具身智能在生產(chǎn)、生活中普及的先決條件，這是具身智能產(chǎn)業(yè)所面臨的一個挑戰(zhàn)，需要學(xué)術(shù)界、產(chǎn)業(yè)界、監(jiān)管方等安全生態(tài)圈的各個環(huán)節(jié)共同努力，找到有效、可持續(xù)發(fā)展的解決方案。
另一組選手則展示了名為"你的眼鏡，我的眼睛"的挑戰(zhàn)項目。挑戰(zhàn)者僅用70秒時間就完成了對AI智能眼鏡的代碼植入。攻擊完成后，設(shè)備的指示燈被熄滅，AI智能眼鏡用戶根本無法察覺攝像頭已被遠(yuǎn)程控制，眼前看到的一切都被現(xiàn)場直播。項目裁判、DARKNAVY安全研究員肖軒淦解釋道：“AI智能眼鏡被攻擊后，會實時將拍攝畫面?zhèn)鬏數(shù)焦粽叩脑O(shè)備上。”研究人員發(fā)現(xiàn)，這類攻擊不僅限于視頻采集，部分智能眼鏡的麥克風(fēng)同樣存在被靜默激活的風(fēng)險，這意味著用戶的隱私安全面臨全方位威脅。
當(dāng)日，無人機攻防演示亦吸引眾多關(guān)注。選手分別針對四款主流商用無人機進行了安全測試。項目裁判李忠睿向記者表示：“選手發(fā)現(xiàn)了無人機系統(tǒng)中的多個漏洞，其中最嚴(yán)重的一個漏洞允許攻擊者偽造控制信號?！边@一發(fā)現(xiàn)對快速發(fā)展的低空經(jīng)濟具有重要意義。隨著無人機物流、城市空中交通等應(yīng)用的加速落地，確保飛行器免受惡意攻擊成為行業(yè)健康發(fā)展的一個基本前提。
在技術(shù)分享環(huán)節(jié)，一項關(guān)于移動設(shè)備生物認(rèn)證安全的研究報告引發(fā)了在場觀眾深思。研究團隊耗時九個月，對市場上主流手機廠商的生物認(rèn)證系統(tǒng)進行了深度“審計”。研究報告第一作者肖軒淦指出：“我們在部分設(shè)備的生物認(rèn)證實現(xiàn)過程中發(fā)現(xiàn)了設(shè)計缺陷。攻擊者可以通過特定方式獲取身份認(rèn)證所使用的共享密鑰，進而繞過所有安全保護措施?！毖芯咳藛T在現(xiàn)場演示了攻擊過程：一部搭載了多種生物識別技術(shù)的手機，僅用兩分鐘就被成功提取出PIN碼。這不僅意味著設(shè)備解鎖的風(fēng)險，更可能導(dǎo)致支付應(yīng)用、個人信息等敏感數(shù)據(jù)泄露。
智能眼鏡網(wǎng)絡(luò)安全挑戰(zhàn)環(huán)節(jié)，智能眼鏡被攻擊后，會實時將拍攝畫面?zhèn)鬏數(shù)焦粽叩脑O(shè)備上。("GEEKCON2025"組委會供圖)現(xiàn)場選手還挑戰(zhàn)并分享了智能機車、AI智能體、安卓藍(lán)牙、手機應(yīng)用、電腦系統(tǒng)等不同領(lǐng)域的最新安全研究成果。 GEEKCON2025組委會主席王琦在接受采訪時直言，行業(yè)當(dāng)前面臨挑戰(zhàn)。新興產(chǎn)業(yè)對網(wǎng)絡(luò)安全不夠重視；傳統(tǒng)行業(yè)對安全投入成本不足；安全行業(yè)中安全研究崗位減少，導(dǎo)致基礎(chǔ)能力薄弱，這將影響整個數(shù)字生態(tài)的安全根基。
據(jù)悉，自2014年創(chuàng)辦以來，GEEKCON已成功舉辦十七屆。到目前為止，GEEKCON已吸引超過30000名安全研究人員參與，并與多家科技企業(yè)建立了深入的技術(shù)交流機制。面對日益復(fù)雜的安全形勢，GEEKCON正在推動建立智能設(shè)備安全量化評級體系?！拔覀兿Ｍ尠踩兊每筛兄⒖杀容^，就像餐廳的衛(wèi)生評級一樣，”王琦表示。目前，相關(guān)體系已在智能手機、家用攝像頭和智能門鎖領(lǐng)域得到初步應(yīng)用。據(jù)悉，這種可視化的安全評估方式有助于推動行業(yè)整體安全水平的提升。
GEEKCON主辦方表示，安全有點像空氣，擁有的時候容易忽視，失去時卻是致命的；希望通過持續(xù)的技術(shù)探索和研究，推動全社會樹立正確的安全觀念，讓安全與創(chuàng)新協(xié)同發(fā)展。
據(jù)悉，本次大賽中發(fā)現(xiàn)的重要安全問題已按照業(yè)界規(guī)范通報相關(guān)廠商，部分廠商已著手完善產(chǎn)品設(shè)計。大賽組委會表示，將繼續(xù)推動負(fù)責(zé)任的安全漏洞披露和處理機制，攜手全球安全研究人員，共同守護智能時代的數(shù)字安全底線。(完)