meta-externalagent

Meta · AI 訓練

Meta-ExternalAgent 是 Meta 的爬蟲,用途包括訓練 AI 基礎模型,以及透過直接為內容建立索引來改善產品。Meta 表示你可以用 robots.txt 的 disallow 規則封鎖它。Meta AI 搜尋使用另一個爬蟲 meta-webindexer,這條規則並未涵蓋它。

它的作用

Meta 表示,Meta-ExternalAgent 爬蟲擷取網路內容的用途包括訓練 AI 基礎模型,或透過直接為內容建立索引來改善產品。Meta 的文件說明,封鎖它的方法是在 robots.txt 中為 meta-externalagent 加入 disallow 規則。

它與 meta-webindexer 是分開的,後者由 Meta 用於改善 Meta AI 的搜尋結果;它也不同於 Meta-ExternalFetcher,後者依使用者的要求擷取連結。

在我們 2026-11 的研究中,設有 robots.txt 的熱門網站裡有 19.5% 封鎖了它。 →

robots.txt 標記

meta-externalagent

User agent 字串

meta-externalagent/1.1

如何允許

User-agent: meta-externalagent
Allow: /

如何封鎖

User-agent: meta-externalagent
Disallow: /

如何驗證真實造訪

Meta 在其爬蟲文件中沒有公布此爬蟲的 IP 範圍或反向 DNS 驗證方法,因此單憑 user agent 相符無法證明請求是真實的。Meta 請大家將有關其爬蟲的問題寄至 webmasters@meta.com。

檢查你的網站是否允許它進入 →

AI 爬蟲的 robots.txt:該允許什麼、該封鎖什麼 →