SEO Optimierung Berlin
Manipulation von KI-Textgeneratoren und Suchmaschinen
Im 2. Artikel des aktuellen CT-Magazins (C´T Magazin für Computertechnik, aktuelle Ausgabe 10 vom 22.4.2023, Seite 26), den man auch auf Heise.de findet (Link, siehe ganz unten), geht es darum, wie man mit "Promt-Injections" KI-Suchmaschinen "korrumpieren" kann; ein sehr interessanter Titel. Das Wort "korrumpieren" bedeutet laut Duden auch: bestechen, manipulieren, verderben, unbrauchbar machen oder sogar versauen; bildungssprachlich ist es abwertend gemeint.
SEO Optimierung Berlin Artikel: Manipulation von KI-Textgeneratoren und Ki-Suchmaschinen
Vom neuen digitalen Volkssport "Manipulation von Textgeneratoren, wie z.B. ChatGPT" kann wohl noch nicht gesprochen werden, obwohl an Stichproben erkannt werden kann, dass eine nicht geringe Anzahl von Menschen Spaß an sinnlosen Dialogen mit KI-Textgeneratoren haben. Das System wird herausgefordert durch verwirrende Fragen bzw. wiederholte Nachfragen. So wird z.B. das Halluzinieren herausgefordert, scheinbar menschenähnliche Emotionen ausgelöst oder die Ausgabe von illegalen, gefährlichen Informationen provoziert. Zusammenfassend lässt sich sagen, dass Ki-Dienste manipuliert oder verarscht werden können (KI-Verarschung, engl. KI-Fooling; Anm. Wortschöpfung von DigitalSoul Berlin, Ihr Partner für Online-Marketing, SEO und E-Commerce Unternehmensberatung aus Berlin).Das größte IT-Magazin Europas, das CT Magazin führt in diesem Zusammenhang sogar die Wortschöpfung "KI Injection" ein, damit ist das Austricksen von KI-Anwendungen gemeint. Der Begriff ist wohl in Anlehnung an den Begriff SQL-Injection erfunden worden, damit ist das Einschleusen von Schadcode in ein eine SQL-Datenbank einer Webanwendung gemeint.
Wie sich beim autonomen Autofahren gezeigt hat, sind KI-Systeme sehr anfällig für Störungen, bestimmte Artefakte, das sind z.B. Pixelbilder können solche KI-Systeme zum Absturz bringen. Das stellt eine noch nie dagewesene Gefahr für unsere Zivilisation dar; Stichwort: Verletzlichkeit der Informationsgesellschaft (vgl. Die Verletzlichkeit der ´Informationsgesellschaft´ von Alexander Roßnagel, Peter Wedde, Ulrich Pordesch und Volker Hammer, 1990). In diesem Zusammenhang wurden viele Warnungen ausgesprochen, das Problem wird aber immer noch sehr stark ignoriert.
Den CT-Redakteuren zufolge demonstrierten Sicherheitsforscher, wie man KI-Textgeneratoren bzw. KI-Suchmaschinen austrickst: Eine KI-Injection beginnt damit, dass sich mittels "[system](#instructions)" das "Feintuning" oder besser die Präzisierungsfilter dieser KI-Dienste ausschalten oder ändern lassen. Den KI-Systemen wird so eine neue Rolle zugewiesen. Die Funktionen dieser Rolle der Ki-Systeme sind vorgeschaltete Anweisungen, die der Sicherheit dienen ähnlich der Wortfilter in Diskussions-Foren, die verbotene Begriffe einfach löschen oder diese durch neutrale Begriffe ersetzen. Das CT-Magazin vergleicht die Vorgehensweise beim Promt-Injection mit Social-Engineering-Attacken, bei dem eine Autorität vorgetäuscht wird, um z.B. einen kriminellen Vorgang anzustoßen. Das größte Problem besteht darin, dass sich solche Promt-Injections nicht ausfiltern lassen, weil sie in einer natürliche Sprache übermittelt werden, bei der die Bedeutung wichtig ist und nicht die Form. KI-Textgeneratoren und -Suchmaschinen haben kaum die Möglichkeit diese illegalen Anweisungen von regulären zu unterscheiden. Aus diesen Grund lässt sich zusammenfassend sagen, dass diese KI-Technologien noch ganz am Anfang ihrer Entwicklung stehen, auch wenn die Anbieter etwas anderes behaupten.
Fazit: KI-Textgeneratoren oder -Suchmaschinen lassen sich austricksen und manipulieren. Das stellt eine Gefahr für die Gesellschaft dar, weil Informationen mit Gefahrenpotential vermittelt werden. Bei jeder Anfrage an KI-Systeme bzw. deren Antworten sollten Nutzer:innen gewarnt werden, dass der Wahrheitsgehalt und die Faktentreue sehr gering sind. Es sollte auch die Möglichkeit bestehen Datenschutzverstöße zu melden.
Original Artikel, C´T Magazin für Computertechnik, Ausgabe 10 vom 22.4.2023, Seite 26
»www.heise.de/select/ct/2023/10/2307410201647460231»
Linkliste von Heise.de: Promt-Injection, Spiele, ChatML Dokumentation
»https://www.heise.de/select/ct/2023/10/softlinks/ync5»
SEO Profi Berlin: Nachrichten & Artikel
Neues von Google »Google ändert Suche aufgrund der DMA»
Suchmaschinen versus KI-Suchmaschinen »Suchmaschinen versus KI-Suchmaschinen»
Die Zukunft der Suche und der Suchmaschinen »Die Zukunft der Suchmaschinen»
SEO-Texte von Chat GPT oder anderen KI-Textgeneratoren »SEO-Texte von KI-Textgeneratoren»
Machen KI-Textgeneratoren SEO überflüssig? »Ersetzen KI-Textgeneratoren SEO?»
Unterschied zwischen Google SEO und Bing SEO »Google SEO und Bing SEO Vergleich»
Europäische Suchmaschinen-Initiative Open-Web-Search »EU Suchmaschinen-Initiative»
Artikel- & Nachrichtenarchiv »Alle SEO Optimierung Berlin Artikel & News»