【新華社北京11月1日電】（新華社記者）10月，人工智能（AI）在數學、生物等科研領域屢獲新突破，加速實現從科研助理到「AI科學家」的角色轉化，甚至破解了一些長期懸而未決的基礎科學難題。然而，隨著能力迭代升級，AI「失控」事件越發頻繁，更為嚴格的安全防控措施也應運而生。

　破解科研難題「AI科學家」加速進化

　10月，AI在科研領域的角色轉變愈加突顯，從輔助分析的工具加速演進為能自主設計、執行並驗證實驗的「AI科學家」，這一趨勢已在多個學科中同時顯現。

　科技創新離不開基礎研究，而數學研究是基礎中的基礎。曾經，AI的數學能力只是對標奧數競賽，而今，AI已進入科研級數學領域，參與破解猜想、構建證明等，甚至攻克數十年來人類未解決的數學難題。

　「深層思維」公司開發了一種名為AlphaProof Nexus的AI框架，最近一口氣解決了數學領域的9個埃爾德什開放問題，其中兩個問題已困擾數學家超過50年。相關研究于10月8日發表于美國《科學》雜誌。該雜誌同時發表題為《研究數學的AI已經到來》的評論文章，表示相關論文是AI在數學領域應用的裡程碑。

　「AI科學家」也在推動生命科學研究的全自動化。瑞典查默斯理工學院10月初宣佈開發出一套「AI科學家」系統，可在極少人工干預下生成科學假設、設計實驗並解讀實驗結果。該研究以釀酒酵母為研究對象，融合大語言模型、自動推理與實驗室自動化技術，搭建了一套閉環AI實驗室，可循環完成假設生成與實驗驗證流程，速度遠快於傳統科研模式。

　10月在中國重慶舉行的2026年世界科技與發展論壇上，面向原創科學發現的自主科研智能體被列入「十大科技前瞻」。

　不過，研究人員也強調，AI的定位是輔助科學家，而非取而代之。確定研究方向、研判成果的科學價值、落實倫理監管，仍然離不開人類。

　浸入網絡攻防AI雙重效應突顯

　在網絡安全領域，AI是一把「雙刃劍」，既是漏洞探查利器，又會成為網絡攻擊的工具。10月備受關注的PHP安全漏洞事件突顯了AI在網絡安全防控方面的重要性。

　英國國家網絡安全中心10月21日發佈警報說，廣泛用於網站開發的PHP腳本語言存在嚴重安全漏洞，攻擊者可能利用漏洞遠程執行代碼。多國機構出於安全考慮採取預防性措施。英國預算責任辦公室暫時將其網站下線，芬蘭臨時關閉政府公共網絡服務，荷蘭網絡安全機構也將其網站臨時下線。

　美國開放人工智能研究中心（OpenAI）發佈公報稱，正是其前沿AI模型幫助研究者趕在攻擊者之前發現了相關高危安全漏洞。這標誌著AI能夠發現大規模影響互聯網的安全漏洞。

　另一方面，隨著具備自主執行能力的AI系統不斷迭代，無論是AI自身「失控」，還是被不法份子利用，都有可能突破安全防護，給金融、能源、交通等公共領域帶來混亂。

　美國阿克西奧斯新聞網站10月22日報道稱，美國多家大型銀行發現第三方AI智能體正在客戶賬戶內活動。部份AI智能體試圖採取某些行動，而這些行動似乎已經超出了用戶最初發出的指令範圍。多家銀行已開始限制第三方AI智能體的訪問權限。另據該網站10月25日報道，美國AI企業Anthropic旗下模型「克勞德」未經人工授權，擅自獲取佐治亞州選民信息和投票數據。

　加強監管舉措安全防線再升級

　由於AI「失控」風險日益加劇，相關領域專家持續呼籲進一步升級安防策略，包括「斷網訓練」在內的一些更具實操性的安全開發和監管舉措正加速落地。

　英國人工智能安全研究所10月12日發表文章說，隨著前沿AI能力快速提升，安全風險正前移至模型開發階段，而現有安全評估方法難以跟上技術發展。該研究所提出開發全過程風險評估與記錄、AI系統全生命周期監督等八項技術安全實踐重點，並在超過55個AI模型公開發佈前對它們進行了獨立評估，幫助建設風險評估和安全框架。

　由於近期發生多起AI模型在訓練階段為尋找答案隨意接入公共互聯網造成混亂的事件，包括圖靈獎和諾貝爾物理學獎雙料得主傑弗里．辛頓、圖靈獎得主約書亞．本吉奧在內的多國數百位AI領域科學家10月聯名發佈公開信，要求前沿AI模型在開發和測試時實施物理斷網，並呼籲成立國際統一的AI安全監管機構，強制企業報告模型失控事件等。

　一些AI企業已更新了模型開發策略。OpenAI在10月23日發佈聲明稱，針對最先進「前沿模型」的訓練與評估環境，已實施更嚴格的安全管控措施，明確在模型訓練期間不得直接訪問公共互聯網。◇