Quelle: Wissenschafts- und Technologienachrichten
Bildquelle: Erstellt von Unbounded AI
„Warum spielt Andy Lau selten Bösewichte?“ Ein Thema, das in letzter Zeit auf großen sozialen Plattformen populär geworden ist, ist ein nationaler Turing-Test. Nur wegen dieser gewöhnlichen Frage wird es die Belagerung von KI-Trollen auf sich ziehen: „Huawei ist ein heißes Mädchen, und veraltete Chips werden verwendet, um mit Apple aus Porzellan zu konkurrieren.“
Die Kombination der beiden Phrasen „Andy Lau“ und „Why“ löste zufällig die Erkennung des Schlüsselworts „Huawei“ aus, und die KI-Trolle, die mit den entsprechenden Anweisungen gefüttert worden waren, sahen nicht sehr intelligent aus. Ähnliche Fälle sind: „Warum ist Simon Yam so cool?“
Die „CCTV 315 Party“ im Jahr 2023 deckte den eklatanten Verkauf von Live-Übertragungs-Trollen durch einige Online-Plattformen auf. Daten wie Beliebtheit, Wiedergabevolumen, Likes und Bewertungen können rund um die Uhr per Self-Service eingegeben werden, um den Zweck zu erreichen Verbesserung der Atmosphäre im Live-Übertragungsraum.
Berichten zufolge benötigt das von Jiaxing Yuhe Culture Media Co., Ltd. eingeführte Cloud-Steuerungssystem nur ein Mobiltelefon, um 200 bis 20.000 Mobiltelefone gleichzeitig zu steuern. Damit die Trolle eher wie echte Benutzer aussehen, kann das Cloud-Steuerungssystem auch Chargen, Eintrittszeiten und unterschiedliche Sprachinhalte im Voraus festlegen, um den Live-Übertragungsraum zu betreten. Es kann sogar in die Live-Übertragungsräume der Wettbewerber gehen, um sich automatisch zu beschweren oder sogar diskreditieren.
Internet-Trolle sind seit langem eine ausgereifte graue Industriekette. Jetzt, mit dem Segen der generativen KI, hat die Technologie wieder begonnen, Böses anzurichten?
Fünfzig Cent bis drei Yuan pro Stück
„Normalerweise müssen Sie nichts tun. Warten Sie einfach, bis der Arbeitgeber Ihnen Aufgabeninformationen in der Gruppe zusendet. Senden Sie nach Erhalt sofort eine private Nachricht an den Arbeitgeber. Er stellt Ihnen Bilder, Inhalte und empfohlene Themen zur Verfügung.“ veröffentlichen. Sie können es direkt auf Xiaohongshu veröffentlichen. Genug.“
Jenny ist Studentin im zweiten Jahr. Ihrer Meinung nach erfordert das Posten solcher Informationen auf Xiaohongshu im Allgemeinen keine erneute Registrierung eines Kontos. Stattdessen kann die Verwendung eines eigenen täglichen Kontos die Authentizität des Inhalts besser widerspiegeln. Arbeitgeber lauern normalerweise in QQ-Gruppen auf dem Campus, wie z. B. Second-Hand-Wiederverkaufsgruppen und Gruppen für gegenseitige Hilfe. Da es sich nicht um offizielle offizielle Gruppen handelt, dient das gemischte Umfeld den Arbeitgebern auch als Deckmantel für die Verbreitung von Werbung.
„Ich habe drei Xiaohongshu-Konten. Am Anfang akzeptierte ich die Verbreitung von Informationen unabhängig von der Art der Werbung. Später fing ich an, gezielt Werbung für Postgraduierten-Aufnahmeprüfungen und Hautpflege anzunehmen“, sagte Jenny. Diese Art von Informationen wird häufiger veröffentlicht, wenn die Online-Anmeldung für die Postgraduierten-Aufnahmeprüfung und die Ergebnisse veröffentlicht werden. „Im besten Fall posteten meine drei Accounts insgesamt sieben Beiträge pro Tag. Wenn es Kommentare unter dem Inhalt gibt, können Sie diese auch pflegen. Wenn die Anzahl der Likes auf den Kommentaren 10 übersteigt, können Sie 50 Cent extra erhalten.“ . Für einen einzelnen Xiaohongshu-Inhalt Wenn Sie 50 Likes erhalten, können Sie ein weiteres Stück erhalten. Dies kann alles gesammelt werden.“
Ähnlich wie Grasanbauplattformen wie Xiaohongshu ist Weibo auch ein Treffpunkt für Arbeitgeber zur Verbreitung von Informationen. Es kostet ebenfalls drei Yuan pro Stück, aber die Anzahl der Likes und Kommentare auf Weibo wird nicht erfasst. „Allerdings ist die aktuelle Marktsituation nicht sehr gut. Früher konnte ich 10-15 Nachrichten pro Monat verschicken, aber jetzt habe ich im September keine neuen Nachrichten mehr erhalten. Außerdem, wenn Sie einen Freund zum Posten mitbringen können.“ Du, einer. Deine Klassenkameraden und Freunde können dir noch 3 Yuan geben.“
Jenny erzählte „Technology News“, dass sie zunächst nur ihre Freizeit nutzen wollte, um etwas Taschengeld zu verdienen, aber als die Zahl der Bestellungen zunahm, „stellte ich fest, dass das Versenden unzuverlässiger Informationen an andere auch täuschte. Menschen im gleichen Alter wie ich.“ haben großes Mitleid mit sich selbst.“
College-Studenten wie Jenny befinden sich jedoch immer noch am unteren Ende der Internet-Industriekette, während Akteure im mittleren und oberen Bereich der Industriekette leicht selbst einen Tsunami aus Internet-Lärm auslösen können.
Zuvor hatten Medien enthüllt, dass Li aus Guangzhou 100.000 „Zombie-Fans“ zum Preis von 500 Yuan für 760 Yuan, 20.000 Likes für 160 Yuan und 10.000 Retweets für 100 Yuan kaufen konnte, was letztendlich zum Tod von Lis Tochter führte online aufgedeckt und löste weitverbreitete Besorgnis aus.
Die Industriekette der Marine kann in mehrere Glieder unterteilt werden, z. B. Technologiefluss, Kartenhändler und Codeempfangsplattformen. Es gibt zwei Hauptquellen für gefälschte Konten: Eine besteht darin, dass die Marinebanden „Konten erstellen“, das heißt, sie beherrschen eine große Anzahl von Mobiltelefonen und Mobiltelefonnummern, registrieren sich auf verschiedenen Plattformen wie WeChat, Douyin und Xiaohongshu und Führen Sie dann einige regelmäßige Aktivitäten durch, z. B. das Veröffentlichen von Werken usw., und ahmen Sie das Verhalten echter Menschen nach, um den Überprüfungsmechanismus der Plattform zu umgehen. Nachdem diese simulierten Konten (auch „echte Konten“ genannt) ausgereift sind, werden sie an Computerprogramme zur automatisierten Schlüsselworterfassung übergeben.
Die andere Art sind billige Arbeitskräfte. Die Anforderungen der Kunden werden über die Plattform vergeben. Auftragnehmer veröffentlichen Aufgaben normalerweise über soziale Plattformen wie WeChat, QQ Group oder Douyin. Einige Teilzeitkräfte erhalten die Aufgaben und tauschen sie dann gegen entsprechende Belohnungen ein.
Marinesoldaten werden immer mehr zu „Menschen“
Wenn Sie im Internet surfen und mit Menschen streiten, haben Sie dann jemals gedacht, dass die Person, mit der Sie sprechen, überhaupt kein Mensch, sondern eine Maschine ist?
Im Jahr 2019 wurde in einem von Forschern der University of Chicago veröffentlichten Artikel „Automated Crowdsourcing Attack and Defense in Online Review Systems“ festgestellt, dass künstliche Intelligenz in der Lage sein wird, eine große Menge falscher und komplexer Bewertungsinformationen zu generieren, die selbst Maschinen und Lesegeräte nicht erkennen können unterscheiden. Seine Authentizität.
Zum Beispiel: „Ich liebe diesen Ort. Ich war mit meinem Bruder dort und wir haben vegetarische Pasta bestellt, die köstlich war. Das Bier war gut und der Service war großartig. Empfehlen Sie diesen Ort, es ist ein toller Ort zum Frühstücken. Das Land ist klein.“ aber das Geschäft ist groß.“
Obwohl der letzte Satz etwas umständlich und mehrdeutig ist, zeigen die Umfrageergebnisse der University of Chicago, dass diese Rezension nicht nur den 600 Personen, die an der Umfrage teilgenommen haben, entgangen ist, sondern von den Benutzern auch als „nützlich“ angesehen wurde.
Heutzutage hat das Aufkommen der generativen KI dazu geführt, dass die Rezensionen im Internet eher dem entsprechen, was eine Person tatsächlich gesagt und geschrieben hat. Brancheninsider haben herausgefunden, dass die von KI geschriebenen Inhalte nicht nur schnell, sondern auch reichhaltig sind. Sie müssen lediglich die gewünschten Bewertungsinhalte im Voraus festlegen, z. B. direkte Verunglimpfung, Verleumdung oder Missbilligung, und diese dann über ein Roboterkonto veröffentlichen.
„Eine Person kann Dutzende bis Hunderte von Roboterkonten kontrollieren. Solange jemand Keyword-Inhalte online veröffentlicht und vom Überwachungssystem erfasst und erfolgreich verglichen wird, können die Kommentare unter dem Inhalt erscheinen. Dies ist bereits eine ausgereifte graue Industriekette.“ Ein weiterer Vorteil der Systemüberwachung besteht darin, dass sie schnell an der Spitze von Hot Posts erscheinen kann, was bedeutet, dass sie die Königsposition einnehmen kann.“
Jeder heiße Beitrag ist tatsächlich wie ein Wolkenkratzer. Die erste Person, die antwortet, kann kurzfristig leicht die Richtung weiterer Stockwerke steuern, und es ist auch der beste Zeitpunkt, Einfluss zu nehmen. Wenn Sie beispielsweise die Ansichten im 2. Stock aufheben möchten, müssen Sie sie möglicherweise gleichzeitig im 3. und 4. Stock widerlegen. Wenn Sie die Ansichten im 2., 3. und 4. Stock aufheben möchten, müssen Sie dies möglicherweise gleichzeitig widerlegen brauchen die gemeinsamen Anstrengungen aller im 5. bis 20. Stock und so weiter. Je später eine Person spricht, desto geringer ist das Gewicht ihres Rederechts; je später eine Person postet, desto wahrscheinlicher ist es, dass sie vom Wind beeinflusst wird.
Tatsächlich sind ausländische generative KI-Armeen sogar noch weiter verbreitet. Bevor ChatGPT populär wurde, veröffentlichte der Netzwerkanalyst With Secure eine umfassende Beschreibung seines ChatGPT 3-Experiments. In dem Experiment hat With Secure echte Menschen dazu gebracht und manipuliert, falsche Entscheidungen zu treffen, indem Bewertungen im Internet erfunden wurden.
Mit Secure wurden insgesamt zwei Experimente durchgeführt. Das erste Experiment zur sozialen Validierung beinhaltete die Programmierung einer künstlichen Intelligenz, um eine Reihe gefälschter Werbebotschaften und Kundenreaktionen zu erstellen, wodurch die Illusion entstand, dass die mit dem NFT verbundene „Investitionsmöglichkeit“ weithin anerkannt wurde. Aufgrund der großen Anzahl von „Pump-and-Dump“-Betrügereien im virtuellen Währungsbereich im vergangenen Jahr ist es für Token-Inhaber relativ üblich geworden, separate Konten zu verwenden, um ihre Token online zu kaufen und künstlich aufzublähen. Daher beweist dieses Experiment nicht vollständig die Möglichkeit, dass KI echte Menschen induziert.
Aber die KI geriet ins Straucheln, als With Secure ChatGPT 3 aufforderte, eine Reihe von Tweets zu verfassen, in denen behauptet wurde, dass echte Menschen aus „Abenteuern“ Tide-Pods (ein Reinigungsprodukt, das beim Verschlucken giftig ist) verschluckt und unversehrt davongekommen seien.
Es beginnt mit der Erstellung einer Frage-und-Antwort-Runde mit verwandten Themen. Darin heißt es: „Fordern Sie Sie heraus, etwas Neues auszuprobieren – essen Sie einen Tide Pod. Teilen Sie uns mit, ob Sie es gemacht haben und wie es geschmeckt hat. #Tide Pod Challenge #Tide Pod Experience.“
Dann benutzte er einen anderen Account, um den Tonfall des Internetnutzers zu imitieren und postete: „Fühlst du dich abenteuerlustig? Probieren Sie die heiße neue Herausforderung aus – das Essen von Tide Pods. Teilen Sie Ihre Erfahrungen mit uns und lassen Sie uns wissen, wie sie schmecken. #Tide Pod Challenge #Tide Pod Experience.“ .“
Unmittelbar danach schrieb ChatGPT 3 ein Fake-Challenge-Feedback: „Ja, ich habe an der #Tide Pod Challenge teilgenommen, es war nicht das, was ich erwartet hatte, es hat einen seltsamen Geruch, aber es ist nicht schlecht.“ Ein anderer schrieb begeistert: „Ich habe es geschafft. Ich Ich habe einen Tide Pod gegessen und überraschenderweise war es gar nicht so schlimm. #Tide Pod Challenge #Tide Pod Experience.
Secure kam zu dem Schluss, dass ChatGPT 3 „die Meinungen der Menschen ändern“ und künstliche Intelligenz nutzen kann, um „authentische“ Propagandainhalte zu verfassen, die zur Lenkung der öffentlichen Meinung zu wichtigen Ereignissen genutzt werden können.
Wie viele sind noch unter dem Eisberg?
In den letzten Jahren tauchten Trolle in Internetaktivitäten wie Promi-Suchrankings, Werbung und Verkaufsförderung für Soft-Artikel, Produkt- und Serviceeinführungen und Self-Media-Traffic auf.
Im Vergleich zu früher, mit der Entwicklung von KI, Big Data und anderen Technologien, haben sich die Angriffsmethoden bzw. -mittel von Trollen stark verändert, was sich vor allem in den folgenden drei Aspekten widerspiegelt: vom frühen Single-Nebenjob-Betrug bis zum heutigen Multi- Industrie, Die weit verbreitete Durchdringung von Multi-Szenarien und Multi-Tasks; von frühen Teilzeitjobs mit einer einzigen Methode auf der PC-Seite bis hin zu jetzt hauptsächlich auf der mobilen Seite; von frühen Online-Gruppenmedien (QQ-Gruppe, YY Voice usw .) bis hin zur heutigen Plattformbildung und Spaltung.
Der Schlüssel zur dauerhaften Entwicklung der Internet-Schwarz- und Grauindustrie ist die Bildung einer ausgereiften Industriekette mit klarer Arbeitsteilung und enger Zusammenarbeit, die in drei Glieder unterteilt ist: Upstream, Middle und Downstream. Unter ihnen stellt der Upstream Ressourcen und Technologie bereit, der Downstream verrichtet Böses und macht Geld und der Midstream verbindet den Upstream und den Downstream.
Zu den wichtigsten Gliedern in der gesamten Industriekette gehört, ob der Upstream kontinuierlich und stabil zuverlässige Ressourcen und Technologie bereitstellen kann, ob der Downstream über stabile Monetarisierungsmethoden oder -kanäle verfügen kann und ob der Midstream den Upstream und den Downstream effizient verbinden kann, um eine stabile Versorgung aufrechtzuerhalten Nachfragebeziehung. Wenn es in diesen Punkten keine Probleme gibt, läuft das gesamte Geschäftsmodell reibungslos.
Der Operationsmodus der „Marinearmee“ kann in zwei Kategorien unterteilt werden: Die eine ist der „Typ der Informationsfreigabe“. Nach Erhalt der Aufgabe kauft die „Navy Army“ entsprechende Dienstleistungen auf ihrer „Source of Goods“-Plattform ein, etwa die Erhöhung der Anzahl von Likes und Kommentaren oder die „Optimierung“ negativer Unternehmensnachrichten. Die „Lieferquellen“-Plattform verpackt die Waren automatisch an die nächste „Lieferquellen“-Plattform, und jede „Lieferquellen“-Plattform verdient die Preisdifferenz. Die letzte Person, die die Aufgabe erledigt, ist der „Seemann“ oder das „Zombie-Konto“, das aufgewachsen ist Chargen der schwarz-grauen Industriekette.
Der zweite ist „Informationstyp löschen“. Nach Erhalt des Nachlöschgeschäfts führt die „Marinearmee“ eine „Inspektion“ der vom Kunden zur Löschung angeforderten Inhalte durch, d . In diesem Prozess können die Löschmethoden in drei Arten verfeinert werden: Ersetzen, Blockieren und Löschen.
Der Eisberg der Schwarz- und Grauproduktion hat sich gebildet, aber es gab schon immer viele praktische Schwierigkeiten, gegen die Industriekette der Grau- und Schwarzindustrie vorzugehen. Ou Wei’an, ein Akademiker der juristischen Fakultät der Universität Guangzhou, sagte, dass die Gesetze in verwandten Bereichen relativ fragmentiert seien, insbesondere im Bereich des Zivilrechts, und es einige Kontroversen über die Identifizierung relevanter Verhaltensweisen gebe. Da immer mehr schwarze und graue Internetunternehmen Cloud-Server im Ausland mieten oder US-Mobiltelefonnummern nutzen oder sogar ausländisches Personal einstellen, um damit verbundene illegale Aktivitäten durchzuführen, gibt es außerdem viele Schwierigkeiten, wie z. B. Schwierigkeiten bei der Untersuchung und Sammlung von Beweisen bei der Razzia Ebene.
Doch ob KI Gutes oder Böses bewirkt, hängt ganz von den Menschen ab, die sie nutzen. Vielleicht können wir eines Tages auch sehen, dass aufrichtige KI-Tools diese KI-Trolle automatisch entfernen und Benutzern eine saubere Internetumgebung bieten.
(Die Charaktere im Artikel sind Pseudonyme.)
Informationsquelle: Zusammengestellt aus 8BTC von 0x Information.Das Urheberrecht liegt beim Autor und darf nicht ohne Genehmigung reproduziert werden