作為新一輪產業變革的重要驅動力，人工智能正在對經濟社會發展和人類生活產生深刻影響，也帶來方方面面的挑戰。10月31日，習近平總書記在中共中央政治局第九次集體學習時強調，要整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。
人工智能不僅是一個技術問題，也是一道治理考題。以無人駕駛技術為例，在全球范圍內已出現多起事故，甚至造成人員傷亡，然而，并沒有法律對此作出明確規定。當人們向算法讓渡了部分決策權，也會讓歸責成為難題。在這個意義上，技術進步是一柄“雙刃劍”，一方面可以造福人類，另一方面在缺乏規范和制約的情況下，也有可能損害社會公共利益。處理好人工智能在法律、安全等方面提出的新課題，需要完善治理，讓技術創新運行在制度的軌道上。
事實上，如何對人工智能進行規范，在世界范圍內還未形成共識。在不少國家，無人駕駛領域的立法一直在討論中，看法不一;在中國，無人駕駛的汽車能否上路、是否符合道路交通安全法，也引發了一系列討論。歐盟最新發布的《通用數據保護條例》中，也沒能對人工智能涉及的隱私風險、數據保護風險做出符合大眾期待的回應。每當一種新技術出現，都會有關于舊的治理規則是否適用、是否需要升級，以及是否需要制定新的治理規則的討論。面對日新月異的人工智能技術及其引發的問題，如何用法律條文探尋最佳應對方案、凝聚對未來的共識，是一項艱巨挑戰。
完善與人工智能相關的法律法規，關鍵在于明確歸責原則：一旦問題出現，哪些是人的責任，哪些是算法的責任?歸責原則實際上就是對算法做出評價，而算法本身并不透明，如何對其進行評估?對此有三種解決方案：不用算法，使算法透明，審查算法輸出。完全避免算法不現實，除了算法，幾乎沒有其他工具可以處理大量的數據。而算法透明化則難以操作，這相當于要求普通人也能理解算法。因此，審查算法輸出是目前的最佳方案。這一方案的要義在于，不管算法的內在工作機制，只根據其結果的公正性對其進行評價。在此方案下，監管成本更低，可操作性更強，歸責原則的確定也更明確，具有立法實踐的意義。
面對科技的迅速發展，我們始終在探索人工智能的法律解決方案和治理模式，致力于形成一套務實管用、行之有效的方法。比如，相關部門對人工智能領域的新應用、新嘗試給予足夠的創新空間，但必要的監管同樣不可或缺;一旦發現安全問題、突出風險，監管力量會及時介入，甚至采取多部門聯合調查處理的方式封堵隱患、解決問題。這樣的模式，既呵護了創新，也有利于防范系統性風險，為人工智能健康發展提供了保障。
人工智能的治理問題是當前一項重大挑戰，世界各國和國際組織都參與其中，這也讓人工智能的治理成為全球治理的一部分。如果此時缺位，可能會在新一輪規則制定中陷入被動。如今，中國在人工智能領域的技術探索已處于世界前列，有些部分甚至進入了“無人區”。創新先行，治理必須跟上，如此才能充分享受創新帶來的紅利，撬動發展的未來。(作者為上海市科學學研究所副研究員)
設為首頁 
