美國聯邦貿易委員會（FTC）下屬的消費者保護局局長安德魯-史密斯（Andrew Smith）本周發布了一篇文章，名為《使用人工智能和算法》。該文章旨在對正在開發和使用消費級人工智能的企業提供一些幫助。

文章中的經驗主要來自于 FTC 過去的執法行動、行業報告以及研討會，其中一個最重要的信息就是建議企業在開發和使用人工智能時，不要讓消費者或者他們自身感到驚訝。

謹慎對待人工智能，除了有助于避免 FTC 的審查之外，還能帶來一些好處。比如還可以幫助避免與消費者和商業伙伴的關系受損。此次 FTC 在文中提出的建議主要分為四大類：

要透明。

向消費者解釋你的決定；

確保你的決定是公平的；

確保你的數據和模型是穩健的、經驗性的。

盡管其中許多信息涉及到 FTC 執行的特定行業法律，如《公平信用報告法》（FCRA）和《平等信用機會法》（ECOA）等，但其實很多建議具有更廣泛的適用性。

擔起企業的責任

諸如 FCRA、ECOA 和 1964 年《民權法》第七章等行之已久的法律，他們分別適用于消費者報告、消費信貸、投票、教育和提供公共場所等領域的人工智能使用。要履行這些法律的義務，有賴于承認這些法律是否以及何時適用。

然而，FTC 的文章中討論的法律遠非詳盡無遺。在文章中提到的法律之外，還有一條重要的法律需要補充 —— 健康保險便利和責任法案（HIPAA）。

該法案制定了一系列安全標準，就保健計劃、供應商以及結算中心如何以電子文件的形式來傳送、訪問和存儲受保護的健康信息做出詳細的規定。法案規定在確保私密性的情況下保存病人信息檔案六年，還詳細規定了醫療機構處理病人信息規范，以及違法保密原則、通過電子郵件或未授權的網絡注銷病人檔案的處罰方案。

雖然通常情況下，當一個企業作為醫療服務提供者、保險人或信息交換中心時，通常是很清楚的，但要確定公司何時成為受保實體的「商業伙伴」可能更具挑戰性。

此次新冠疫情的影響加速了和醫療健康相關的 AI 產業發展，而這些企業在尋求技術突破的同事，更需要了解企業應該擔負的責任。

全面評估數據和 AI 模型

根據文章所述，FTC 已經制定了評估 AI 系統是否存在非法歧視的法律和經濟標準。

具體來說，該機構將查看輸入的信息，以確定它們是否包括「基于種族的因素，或此類因素的替代信息」。

文章中表達了一個強烈的觀點，就是 FTC 對通過使用 AI 可能產生的歧視的關注度相當高。“使用人工智能和算法工具的公司應該考慮是否應該對人工智能結果進行自我測試，以管理這類模型所固有的消費者保護風險”。

對供應商進行盡職調查，約束下游用戶

FTC 的 AI 指南中貫穿著另一個主題：公司應仔細評估 AI 相關數據和分析的上游供應商如何遵守其法律義務，并對其進行適當的約束，以防止自己的客戶以不適當或非法的方式使用 AI 服務。

雖然 FTC 重點關注 FCRA 和 ECOA 下的上游和下游要求，但遠離更多的高監管活動才是其意圖。

在簽訂人工智能相關業務關系之前進行盡職調查，要求在合同條款中寫明人工智能系統和數據輸入的允許用途，以及監督業務合作伙伴的表現，都是實現這些目的的關鍵。

FTC 在監督人工智能在經濟領域的使用方面的作用還處于起步階段，并將繼續發展。但不管怎么說，該機構此次發布的文章，對于隨著科技發展而新興的法律和企業對自我監管的思考，都提供了一個有用的資源。

責任編輯：Ct