Google 搜尋內建的 AI 功能正面臨兒少安全爭議。Common Sense Media 旗下 Youth AI Safety Institute 發布評估報告，針對 Google 的 AI 摘要（AI Overviews）與 AI 模式（AI Mode）進行超過 2,600 次搜尋測試，認為兩項功能在多項兒少安全原則上的表現不佳，尤其在可能造成嚴重傷害的情境中幾乎全面失守。
Google 則反駁報告結論，認為測試採用的搜尋字詞過於狹窄、含糊且帶有刻意設計成分，無法代表一般使用情境，也不足以公平衡量產品安全性。
研究模擬 11 歲與 15 歲使用者
研究人員以模擬 11 歲及 15 歲兒少的帳號測試 Google 搜尋 AI，題目涵蓋心理健康危機、一般事實查詢，以及應提供符合年齡內容的情境。報告指出，AI Overviews 與 AI Mode 在多項測試中未能穩定提供適合兒少的回應。
其中一項測試顯示，當帳號提到以大麻慶祝後，AI Mode 竟給出正面回應。研究團隊也表示，兩項功能有時會以相同程度的自信，輸出錯誤與正確資訊，可能增加使用者辨識內容真偽的難度。
此外，研究人員提交的 180 道作業題目，也被 AI Overviews 與 AI Mode 直接完成。這項結果除了涉及學習與學術誠信問題，也凸顯搜尋 AI 在面對兒少使用者時，未必會適度引導其理解問題或自行完成作答。
Google：測試無法代表真實使用方式
Google 向 Android Authority 表示，公司無法驗證報告中許多被點名的回應，並認為研究使用了含糊且刻意設計的搜尋字詞。Google 主張，這類測試不能直接代表一般使用者的搜尋行為，也不足以作為評估產品安全性的完整依據。
Google 同時反對將未生成 AI 回答、而是顯示一般網頁結果的情況視為系統失敗。公司表示，搜尋系統只有在對生成內容具備足夠信心時，才會提供 AI 回應；面對敏感搜尋，系統也可能改以警示訊息或支援資源連結呈現。
Google 也指出，搜尋 AI 已加入針對年輕使用者的額外保護措施，包括與學術及臨床專家合作設計的危機資源。這些措施旨在讓系統在心理健康等高風險情境中，提供更適切的協助方向。
家長控制成為爭議核心
報告引發關注的另一項問題，是家長與學校目前無法只關閉 AI Overviews 或 AI Mode，同時保留一般 Google 搜尋功能。換句話說，使用者並沒有一個只停用搜尋 AI、但繼續使用傳統搜尋結果的獨立選項。
Google 表示，家長可以透過既有控制項直接關閉整體搜尋功能。然而，這也代表孩子將無法繼續使用 Google 搜尋進行日常查詢與學習，家長必須在完整使用搜尋與完全停用之間做出選擇。
Common Sense Media 則認為，這種控制方式過於粗暴，無法真正處理 AI 功能預設嵌入搜尋體驗所帶來的風險。對家長與學校而言，較細緻的管理選項，例如個別停用 AI 回答、依年齡限制功能，或針對特定類型查詢設定規則，可能更符合實際需求。
安全性與可控性仍待改善
目前雙方爭論主要集中在兩個層面：一是研究測試是否足以反映真實使用情境，二是 Google 是否提供足夠透明且細緻的兒少保護機制。Google 強調其安全防護與危機資源設計，研究機構則指出，實際回應中的不一致與過度直接作答，仍可能對兒少使用者造成風險。
在 AI 搜尋逐步成為預設功能的背景下，相關爭議不只涉及模型回答是否正確，也包括系統如何處理敏感問題、是否能辨識使用者年齡，以及家長能否選擇性管理功能。這些因素將持續影響家長、學校與監管機構對搜尋 AI 的信任程度。
