作者 / Google Play、Android 和 Chrome 信任與安全總監 Prabhat Sharma

生成式 AI 的快速發展為開發者提供了機會，讓開發者能為世界各地用戶創造全新、引人入勝的沉浸式應用體驗。在這個瞬息萬變的時代，我們很高興能繼續幫助開發者創建創新、優質的應用，同時保持用戶對 Google Play 的期待，即獲得安全可靠的體驗。我們的目標是讓 AI 惠及每個人，豐富應用生態系統并改善用戶體驗。

確保具有生成式 AI 功能應用的

安全性

在過去的一年中，我們擴展了審核能力，以解決具有生成式 AI 功能的應用帶來的新復雜性。我們正在新增例如大語言模型 (LLM) 等前沿技術快速分析應用提交的內容，包括大量文本，以識別色情內容或仇恨言論等潛在問題，并對其進行標記，以便我們的全球團隊成員仔細檢查。這種人類專業知識和增強的 AI 效率相結合，有助于我們改善開發者的應用審核體驗，并為每個人創造更安全的應用環境。 此外，我們還加強了 Google Play 的現有政策，以解決用戶和開發者的新問題和反饋，并跟上生成式 AI 等技術不斷發展的步伐。例如，我們在去年 10 月分享過，在無需離開應用的情況下，所有生成式 AI 應用必須讓用戶能夠舉報或標記冒犯性內容。

以負責任的方式構建

具有生成式 AI 功能的應用

Google Play 的政策是長期以來一直支持著我們用戶安全工作的基礎，深深植根于 Google Play 和開發者之間的持續合作。這些政策為負責任的應用開發提供了框架，并有助于確保 Google Play 始終是值得全球信賴的平臺。由于生成式 AI 仍處于早期階段，我們收到了開發者的反饋，希望我們明確 Google Play 對具有 AI 生成內容的應用有何要求。現在，我們將回應這些反饋，并提供指導，幫助開發者提高 AI 驅動應用的質量和安全性，避免應用提交中的潛在問題或延遲，增強用戶信任，助力Google Play 持續打造繁榮且負責任的應用生態系統：

Google Play 政策回顧:Google Play 的政策有助于我們提供安全和高質量的體驗，因此，我們不允許應用采用可能對用戶有害或不當的生成式 AI 功能。請查看我們的 AI 生成內容政策，并確保您的所有應用都符合這些要求，以避免應用被拒絕或在 Google Play 中下架。

需要注意的是，使用 AI 生成內容的應用必須:

禁止和防止生成受限內容。

讓用戶能夠舉報或標記冒犯性內容。對于具有生成式 AI 功能的應用，監控并優先處理用戶的反饋尤為重要，因為用戶交互直接塑造了內容和體驗。

負責任地推廣您的應用:應用推廣是拓展業務的重要途徑，以安全且尊重用戶的方式推廣應用至關重要。您最終要對您應用的營銷和廣告方式負責，因此請查看您的營銷材料，以確保您的廣告準確反映了應用的功能；并確保您的應用在所有平臺上的所有廣告和促銷內容都符合我們的應用推廣要求。例如，將您的應用廣告用于不當用途可能會導致其從 Google Play 中被下架。

嚴格測試 AI 工具和模型:您需要對應用中的體驗負責，因此，您需要了解用于創建媒體的基礎 AI 工具和模型，并確保這些工具可靠，輸出結果符合 Google Play 政策并尊重用戶安全和隱私，這一點至關重要。請務必在各種用戶場景下測試您的應用，并防范用戶使用某些提示去操縱生成式 AI 功能創建有害或冒犯性內容。例如，您可以使用我們的封閉式測試功能分享應用的早期版本，通過用戶反饋了解他們是否獲得了期望的生成結果。

這種徹底的理解和測試尤其適用于生成式 AI，因此我們建議您開始記錄這些測試；因為我們將來可能要求審查此記錄，以便我們更好地了解您如何保護用戶。

隨著 AI 領域的發展，我們將繼續更新我們的政策和開發者工具，以應對新出現的需求和復雜性。這包括在將來引入新的應用上架功能，使在 Google Play 提交生成式 AI 應用的過程更簡潔和透明。我們還將分享最佳實踐和資源，例如我們的 People + AI 指南，以支持開發者構建創新和負責任的應用，從而豐富全球用戶的生活。

一如既往，我們始終是您保障用戶安全的合作伙伴，并樂于接受您的反饋，以便我們可以更好地制定政策，幫助您充分利用 AI 在 Google Play 上擴展業務，為我們共同的用戶提供保障并創造愉悅的體驗。