歐盟提議的規(guī)則將成為迄今為止國際上制定監(jiān)管人工智能技術最嚴苛的規(guī)則之一，其中包括面部識別、自動汽車駕駛以及驅動在線廣告、自動招聘和信用評分的算法。擬議的規(guī)則將圍繞面向未來但具有爭議的人工智能技術制定全球性法規(guī)和規(guī)范。

歐洲數(shù)字版權非營利組織Access Now公司歐洲政策分析師Daniel Leufer 說，“這將向全球傳達一個非常重要的信息，即在建立在民主、法治、基本權利基礎上的社會中，不允許應用某些人工智能技術。”

他指出，歐盟擬議的規(guī)則是含糊不清的，但這是檢查潛在有害技術使用的重要一步。該規(guī)則很可能受到國際方面的密切關注，該規(guī)則適用于在歐盟銷售產(chǎn)品或服務的任何一家公司。

其他倡導者表示，歐盟保護公民免受許多濫用人工智能的規(guī)則存在太多漏洞?？偛课挥诓剪斎麪柕臍W洲數(shù)字版權組織(EDRi)政策和競選官員Ella Jakubowska說：“有一些規(guī)則是積極的。而某些條款將允許政府部門和組織繼續(xù)以懷疑的方式使用人工智能技術?！?/p>

例如，擬議的法規(guī)建議禁止使用人工智能的“高風險”應用程序，其中包括執(zhí)法部門使用人工智能進行面部識別，但只有當該技術用于在公共場所實時查尋人員時才可以使用。該規(guī)則還將為警方在調查可能判處至少三年徒刑的犯罪時可能出現(xiàn)的例外情況提供建議。

Jakubowska指出，人工智能仍用于學校、企業(yè)或購物中心，并用于一系列警方調查中。她說：“在基本數(shù)字版權方面，還有很多地方遠遠不夠。我們希望他們采取更大膽的立場?！?/p>

由于人工智能的最新發(fā)展，面部識別技術已變得更加有效，這引起了極大的爭議。它通過Clearview AI等商業(yè)工具在一些國家的執(zhí)法部門中得到廣泛應用;美國一些城市已經(jīng)禁止警方使用這項技術來回應公眾的抗議。

歐盟擬議的人工智能規(guī)則還將禁止由政府機構為一般目的進行基于人工智能的社會評分，以及禁止使用人工智能針對“特定群體”進行監(jiān)控，這種方式可能對他們造成心理或身體上的傷害。此外，還可能會限制使用人工智能進行信用評分、招聘或某種形式的監(jiān)控廣告，例如，人工智能算法可能將賭博網(wǎng)站的廣告推薦給人們。

歐盟擬議的人工智能法規(guī)要求使用高風險人工智能應用程序的組織向監(jiān)管機構提供風險評估報告，以證明其安全性。那些不遵守規(guī)定的組織，可能會被處以其全球銷售額6%的罰款。

擬議的規(guī)則要求組織在嘗試使用人工智能來檢測用戶情緒，或者根據(jù)生物特征(例如性別、年齡、種族、政治取向)進行分類時必須告知用戶。

數(shù)字版權分析師Leufer表示，歐盟擬議的這些規(guī)則可能會阻礙行業(yè)組織在某些領域的投資，從而影響人工智能行業(yè)在歐盟和其他國家和地區(qū)的發(fā)展步伐。

今年1月制定的這份條例草案的內容日前被曝光。其最終版本包含了一些顯著的更改，例如刪除了禁止使用高風險的人工智能系統(tǒng)的條款。