無盡的AI生成的垃圾郵件可能會堵塞谷歌的搜索結果

很多文章的報道都是由微觀而宏觀，今日小編講給大家帶來的關于無盡的AI生成的垃圾郵件可能會阻塞谷歌的搜索結果的資訊也不例外，希翼可以在一定的程度上開闊你們的視野！y有對無盡的AI生成的垃圾郵件可能會阻塞谷歌的搜索結果這篇文章感興趣的小伙伴可以一起來看看
在過去的一年中，人工智能系統在生成令人信服的文本方面取得了巨大進步，從歌詞到短篇小說都在制作各種內容。專家警告稱，這些工具可能會被用來傳播政治上的虛假信息，但還有另一個目標同樣合理且可能更有利可圖：游戲谷歌。

人工智能可以制作無限的博客，網站和營銷垃圾郵件，而不是用來制作假新聞。內容生產成本低廉，并且填充了相關的關鍵字。但是像大多數AI生成的文本一樣，它只具有表面意義，與現實世界幾乎沒有對應關系。這將是相當于空卡路里的信息，但仍然可能難以使搜索引擎與真實的東西區分開來。
看看這篇博客文章，回答這個問題：“什么照片濾鏡最適合Instagram營銷?”乍一看它似乎是合法的，有一個平淡的介紹，后面跟各種營銷類型的引用。但仔細閱讀，你會發現它引用了雜志，人們，以及 - 至關重要的 - 不存在的Instagram過濾器：
您可能不認為mumford筆刷是Insta故事的好過濾器。不是這樣，國家錄音技術雜志的通訊主管艾米·福瑞博說。Freeborn的選擇包括Finder(藍色條紋使她的帳戶看起來像一個較舊的像素塊)，Plus和Cartwheel(她說這使你的照片看起來像一個城鎮的地形圖。
該網站的其余部分充滿了類似的帖子，涵蓋了“ 如何寫Clickbait標題 ”和“ 為什么內容策略重要?“但每個帖子都是人工智能生成的，直到作者的個人資料圖片。這是內容營銷機構Fractl的全部創建，他說這是對AI文本生成對搜索引擎優化或SEO業務的“巨大影響”的演示。
“因為[AI系統]能夠以基本上無限的規模創建內容，而人類和搜索引擎都難以辨別的內容[...]我們認為這是一個非常重要的主題，目前討論太少，”Fractl合作伙伴Kristin Tynski告訴The Verge 。
為了撰寫博客文章，Fractl使用了一個名為Grover的開源工具，由Allen人工智能研究所制作。Tynski表示，該公司并未使用AI為客戶生成帖子，但這并不意味著其他人不會。“我想我們會看到我們向來看到的東西，”她說。“黑帽子將使用顛覆戰術來獲得競爭優勢。”
SEO的歷史固然支持這種預測。它總是一場貓捉老鼠的游戲，不擇手段的玩家嘗試用盡可能多的方法來吸引盡可能多的眼球，而谷歌等網守則從谷殼中分揀小麥。
正如Tynski在她自己的博客文章中所解釋的那樣，這種動態的過去例子包括10至15年前開始的“文章旋轉”趨勢。文章微調器使用自動化工具重寫現有內容; 找到并替換單詞，使重構的物質看起來像原始的。谷歌和其他搜索引擎回應了新的過濾器和指標，以淘汰這些瘋狂的博客，但它幾乎不是一夜之間的解決方案。
【無盡的AI生成的垃圾郵件可能會堵塞谷歌的搜索結果】人工智能文本生成將使文章旋轉“看起來像孩子的游戲，”Tynski寫道，同意 “跨越每個可以想象的利基的計算機生成內容的大規模海嘯” 。
SEO顧問兼專家Mike Blumenthal表示，這些工具肯定會吸引垃圾郵件發送者，特殊是考慮到他們能夠大規模生成文本。“人工智能編寫的內容至少在網絡搜索方面存在的問題是它可能會降低這種內容制作方式的成本，”Blumenthal告訴The Verge 。
如果垃圾郵件發送者的目的只是為了產生流量，那么假新聞文章也可能是完美的。雖然我們經常擔心虛假新聞商家的政治動機，但大多數人與創建和分享這種背景的人進行的訪談聲稱他們是為廣告收入做的。這并不能阻撓它在政治上具有破壞性。
那么關鍵問題是：我們能否可靠地檢測AI生成的文本?艾倫艾倫研究所的羅恩·澤勒斯(Rowan Zellers)表示答案是堅定的“是的”，至少就目前而言。Zellers和他的同事負責創建Grover，這是Fractl用于虛假博客文章的工具，并且能夠設計一個能夠以92%的準確度發現Grover生成的文本的系統。
“我們距離人工智能還有很長的路要走，因為它能夠生成無法檢測到的全部新聞文章， ”Zellers告訴The Verge 。“所以現在，在我看來，這是研究人員研究這個問題的絕佳機會，因為它并不是完全驚險的。”
Zellers說，發現虛假的AI文本并不太難，因為它有許多語言和語法的說法。他給出了AI重復使用某些短語和名詞的例子。“他們重復一些事情......因為這樣做更安全，而不是發明新的實體，”澤勒斯說。這就像一個學習說話的孩子; 在不考慮收益遞減的情況下，一遍又一遍地使用相同的單詞和短語。
然而，正如我們在視覺深度研究中看到的那樣，僅僅因為我們可以構建能夠發現這些內容的技術，這并不意味著它不是一種驚險。將探測器集成到互聯網基礎設施中是一項艱巨的任務，在線世界的規模意味著即使是具有高精度水平的探測器也會產生大量的錯誤。
谷歌沒有回應有關這個主題的問題，包括它是否在可以發現人工智能生成文本的系統上工作的問題。(不過，考慮到谷歌的工程師處于這個領域的最前沿，這是一個不錯的選擇。)相反，該公司發出了一個樣板回復，說它已經打擊了幾十年的垃圾郵件，并始終跟上最新的戰術。
搜索引擎優化專家布盧門撒爾對此表示贊同，并表示谷歌長期以來已經證明它可以對“不斷變化的技術環境”作出反應。但他也表示，我們在網上查找信息的方式也可能使人工智能垃圾郵件不再成為問題。
Blumenthal表示，越來越多的網絡搜索是通過像Siri和Alexa這樣的代理進行的，這意味著像谷歌這樣的網守只需要產生“一個(或兩個或三個)偉大答案”而不是幾十個相關鏈接。固然，強調“一個真正的答案” 有其自身的問題，但它確實最大限度地減少了大量垃圾郵件的風險。
盡管如此，這一切的最終結局可能會更加有趣。人工智能文本的產生速度非常快，該領域的專家認為它可以帶來一些令人難以置信的突破。畢竟，如果我們能夠創建一個能夠讀取和生成具有人類精確度的文本的程序，它可以在互聯網上肆虐并成為最終的AI助手。
“可能會浮現這樣的情況：在接下來的幾年中，這種技術變得非常好，人工智能生成的內容實際上提供了近乎人類甚至人類的價值，”廷斯基說。在這種情況下，她說，參考一個Xkcd漫畫，它將“解決問題。”因為如果你制造了一個人工智能，可以產生與人類寫的內容無法區分的事實正確的文本，為什么要打攪人類呢? ?

無盡的AI生成的垃圾郵件可能會堵塞谷歌的搜索結果

猜你喜歡