Chatbots – Fluch oder Segen?

Ein Beitrag zur Diskussion über ChatBots und Software-Agenten insgesamt.

Ein Crosspost-Beitrag von der AG Digitalisierung.

Autor: Uwe Henkel.

Mit freundlicher Unterstützung von Wolfgang Wiese, Astrid Semm und Dietmar Hölscher

Social Bots bzw. Chatbots – Fluch oder Segen ?

Es ist noch gar nicht so lange her, da dominierten Schlagzeilen aus dem US-Wahlkampf den hiesigen Blätterwald. Nein, es ging nicht um verbale Entgleisungen von Donald Trump oder die Mail-Affaire von Hillary Clinton.

Vielmehr war es die Tatsache, dass man sich gegenseitig den Einsatz von Wahlbots vorhielt, die je nach Lager dann verantwortlich seien, dass die Meinungsbildung im Internet hier gezielt beeinflusst worden wäre.

(Quelle: FAZ, LSR-Medium)

Und, wie vielleicht nicht anders zu erwarten, kam dann auch in Deutschland sofort von der AfD die Information, dass man gedenke, diese Bots (social bots, chatbots) einzusetzen.

(Quelle: Der Standard: http://derstandard.at/2000046294182/AfD-will-im-Wahlkampf-Meinungsroboter-einsetzen )

Auch bei der Abstimmung zum Brexit wurde der Gedanke laut, dass hier massiv Chatbots eingesetzt wurden, um die Stimmung zugunsten der Brexit-Befürworter zu beeinflussen.

Und natürlich hatte Bundeskanzlerin Merkel sofort die Gelegenheit genutzt um in einer Veranstaltung der Jungen Union eine Allianz gegen diese Bots zu beschwören.

Aber was sind diese Bots eigentlich und was macht sie am Ende so gefährlich?

Einen Satz vorab:

Genau wie viele andere Produkte der Digitalisierung sind diese per se weder gut noch schlecht.
Es kommt immer darauf an, wie und wozu man sie einzusetzen gedenkt. 

Eingedenk dieses einleitenden Satzes können Social Bots bzw. Chatbots richtig eingesetzt (zum Beispiel als Supportunterstützung bei stark frequentierten Webseiten oder auf Social-Media-Supportkanälen; oder auch Bots, die bei der Auswahl eines Hotelzimmers oder eines Urlaubsziels unterstützen, ein sinnvoller Baustein sein, um die Erwartung der Nutzer zu erfüllen. Es ist wesentlich sinnvoller, auf Fragen einen schnelle Antwort zu erhalten, als stundenlang in der Warteschleife einer Hotline zu warten und dann doch nur halbgare Auskünfte zu erhalten.

Dass dabei natürlich nicht alles sofort nach Wunsch läuft, mussten sowohl Facebook als auch Microsoft lernen.

Was sind diese Social- oder Chat-Bots ?

Unter einem Bot (von englisch robot ‚Roboter‘, umgangssprachlich auch oft „computergesteuerte Akteure“ genannt) versteht man ein Computerprogramm, das weitgehend automatisch sich wiederholende Aufgaben abarbeitet, ohne dabei auf eine Interaktion mit einem menschlichen Benutzer angewiesen zu sein.

In sozialen Medien werden Bots gezielt eingesetzt, um automatische Antworten zu setzen. Bei Twitter werden Social Bots eingesetzt, die auf spezifische Hashtags reagieren und dann vorherprogrammierte Informationen absetzen. Dazu werden echt aussehende Twitter-Accounts geschaffen mit Profil-Foto, harmlosen Posts und Followern, die selbst anderen Nutzern folgen. Sie werden oft dazu eingesetzt, um Werbung zu verbreiten. Häufig kommt man aber auch mit harmlosen Bots in Kontakt, die beispielsweise mit dem SeitSeid-Bot, welcher mit einer Belehrung zur Rechtschreibung auf ein falsch geschriebenes Wort reagiert.  

2016 berichtete das NDR-Magazin Zapp darüber, dass Social Bots eingesetzt werden, um politische Propaganda im Sinne ihrer Programmierer zu verbreiten.[3] Auch im Wahlkampf um den Brexit wurden zahlreiche Social Bots eingesetzt ebenso wie im Wahlkampf um die US-Präsidentschaft zwischen Clinton und Trump. Dort war einer Untersuchung der Universität Oxford zufolge nach dem ersten TV-Duell mehr als jeder dritte Tweet (37,2 %) für Trump computergesteuert, bei den Tweets für Hillary Clinton lag der Anteil bei 22,3 %. [4]Für normale Benutzer scheint es nicht mehr erkennbar zu sein, ob ein Beitrag in sozialen Medien wie twitter von einer natürlichen Person stammt oder einer Maschine, weshalb solche social bots teilweise als Gefährdung für den Meinungsbildungsprozess in einer Demokratie angesehen werden.[5] In Deutschland haben sich CDU, SPD, Grüne, Linkspartei und FDP gegen die Verwendung von Bots beim nächsten Bundeswahlkampf ausgesprochen, nicht aber die AfD.[4]

[Quelle: Wikipedia]

 

Gefährliche Bots?  –  Was macht diese Bots gefährlich ?

Durch den Einzug von Social Media, sei es nun Facebook oder Twitter, findet politische Meinungsbildung zunehmend auch in den sozialen Netzwerken statt.

Anhand von Likes, Shares, Hashtags ist es mittlerweile einfach, sich über das aktuelle Tagesgeschehen und die dazu vorherrschenden Meinungen zu informieren.

Andererseits sind wiederum auch die auf diesen Kanälen zu findenden Posts oder Tweets eine nicht unwesentliche Grundlage für die Politik, sich über die allgemeine Stimmung zu informieren oder darauf zu reagieren.

Bislang gehen die meisten Nutzer davon aus, dass man auf diesen Kanälen überwiegend mit realen Menschen interagiert und sich so in einem Diskurs befindet.

Doch genau dies ist nicht immer der Fall. Vielmehr übernehmen diese Bots für ihre Auftraggeber nicht nur die Kommunikation, sondern auch, und hier gerade im politischen oder gesellschaftlichen Diskurs, die Aufgabe, gezielt Meinungen zu beeinflussen oder Themen im Sinne des Einsetzenden zu steuern.

Dabei sind diese Bots so programmiert, dass es den meisten Nutzern gar nicht auffallen wird, dass sie im Grunde auf Algorithmen hereingefallen sind. Denn sowohl im normalen „Nutzerverhalten“, als auch den eingesetzten „Profil“-Bildern bis hin zu Aktivitätszeiten unterscheiden sich diese Bots äußerlich kaum noch von Accounts, wie du und ich sie besitzen.

Und hier beginnt es dann auch, für uns Nutzer gefährlich zu werden. Denn diese programmierten Algorithmen sollen unser Weltbild, unsere politischen Ansichten beeinflussen. Sie gaukeln uns somit auch ein völlig falsches Meinungsbild zu aktuellen Themen vor, was wir auf Grund der implementierten Authentizität  dann eben doch eher geneigt sind anzunehmen (je nach Reifegrad des Chatbots, bis hin zu programmierten Rechtschreibfehlern, um „menschlicher“ zu wirken).

Waren beispielsweise nach dem 1. Rededuell alle Umfragen einig, dass H. Clinton vorn liegt, steuerten die Bots durch Likes, Hashtags und Shares die „Meinungsbildung“ im Netz so, dass dort Trump als Sieger des Duells hervorging.

Gerade bei hochbrisanten Themen wie wir sie beispielsweise aktuell mit CETA und TTIP im Lande diskutieren, ist es somit ein leichtes, auch mit diesen Bots maßgeblich die Meinungsbildung zu unterlaufen und so in die gewünschte Richtung zu steuern.

Dadurch, dass Bots hier vorgeben, Menschen zu sein, täuschen sie die Leser  und Diskutanten. Banal gesagt, handelt es sich hier um ein Betrug.

Gute Bots?  – Was macht gute Bots aus?

Gute Bots sind wie Arbei­ter­bienen, die dem Internet bei seiner Evolu­tion und beim Wachstum helfen. Ihre Eigen­tümer sind Unter­nehmen, aber auch Einzelpersonen, die Bots verwenden, um mit ihrer Hilfe automa­ti­sierte Aufgaben, einschließ­lich Daten­er­fas­sungen und Website-Scans durch­zu­führen. Die hier eingesetzten Bots unterstützen den Nutzer bei Routine-Anfragen oder Routine-Verhalten im Netz.

Dies kann auch, wie oben bereits erwähnt, der Bot sein, der mir hilft, mich im Angebot zurecht zu finden. Der mir auf Nachfrage passende Angebote heraussucht. Oder der mir einfache (bis zuweilen auch komplexe) Fragen schnell und verständlich beantwortet.

Hier geht es grundsätzlich nicht darum, den Nutzer zu beeinflussen, sondern im Rahmen des technisch Möglichen zu unterstützen. Die Interpretation der durch den Bot bereitgestellten Informationen obliegt dann dem Nutzer allein.

Beispiele  für solche Bots findet man im Bibliothekswesen, bei  Shopping-Systemen und bei Vergleichsportalen. Ein weiteres Gebiet  betrifft das Feld der Genealogie, wo Bots nach Verbindungen  zwischen Menschen über Stammbaumdaten suchen.

So  können beispielsweise bei gängigen Plattformen entsprechende  Suchaufträge beauftragt werden, welche abhängig vom Umfang der  Datensätze und zu durchsuchenden Datenbanken wenige Sekunden bis zu mehreren Tagen zur Bearbeitung benötigen.

Weitere bekannte Bots, die sich auch im Social Media Umfeld befinden, sind beispielsweise Bots, die ausgehend von vorgegebenen Themen, Begriffen und Hashtags automatisiert Online-„Zeitungen“ erstellen. Hier werden durch ein oder mehrere Bots automatisierte Suchanfragen gestellt, die Ergebnisse danach analysiert und dann in Form einer übersichtlichen Online-Darstellung präsentiert. Menschen, die nicht von News-Generatoren von Google, Yahoo, Bing oder von Providern abhängig sein wollen, können sich auf diese Weise einen eigenen Nachrichtenüberblick erstellen lassen.

 

Andere Bots – Nicht gut, nicht böse, sondern etwas lilablaßblaukarriert

Bots müssen nicht nur nützlich sein oder einen gewissen Zweck verfolgen. Neben den oben genannten Bots gibt es auch eine Reihe weiterer Bots, die eher aus experimentellen, kreativen oder auch humoristischen Gründen entstanden sind. Und auch Bots, die den Zweck haben, durch ihre Aktionen selbst eine Botschaft auszudrücken.

So zum Beispiel solche Bots, die gezielt nach Schwachstellen in Systemen suchen, Statusdaten und Statistiken ermitteln und dann darüber informieren.

Auch gibt es Bots, die beispielsweise in Gästebüchern oder Foren gezielt politische oder humoristische Nachrichten hinterlassen und solche, die Webauftritte als Proxy bereitstellen, jedoch alle Personenbilder mit einer Clowsnase verschönern.

Eine Einordnung nach gut oder böse ist hier schwer möglich und auch nicht sinnvoll.

Und nun?

Wir finden, dass Bots, richtig und sinnvoll eingesetzt, eine sehr spannende und nützliche Technologie sind.

Da die Differenzierung zwischen „guten“ und „schlechten“ Bots eben nicht immer so einfach ist, erachten wir es aber auch als notwendig, dass wir eben nicht nur immer die positiven Aspekte der Digitalisierung hervorheben, sondern auch die offensichtlichen Schattenseiten klar benennen.

Und auch entsprechend informieren. Damit auch hier ein gesellschaftlicher Diskus zustande kommt.

Wie eingangs schon gesagt: Auch Chatbots (SocialBots) sind per se nichts Schlechtes.

Viele einfache Chatbots, wie beispielsweise das ganz klassische Eliza, inspirierten viele Menschen dazu, sich mit Informatik zu beschäftigen. Sie regten die Fantasie an und fanden sogar Eingang in den Film „Wargames“, in dem ein Chatbot namens Joshua eine Hauptrolle spielte.

 

Lasst uns also gemeinsam als Gesellschaft darauf achten, dass diese Algorithmen gerade im Bereich der politischen Meinungs- und Willensbildung nicht die Pole Position übernehmen.

Sondern diese nach wie vor durch uns, die echten Nutzer, stattfindet. Mit unserem gesundem Menschenverstand.