Fünf KI-Pannen, die Unternehmen peinlich berührt zurücklie?en

Künstliche Intelligenz (KI) ist im Begriff, unsere Welt für immer zu ver?ndern und stellt eine der gr??ten technologischen Revolutionen dieses Jahrhunderts dar.

Doch wie bei jeder anderen Erfindung, die von Menschen gemacht wird, k?nnen auch hier Fehler, Pannen und ungeplante Unf?lle passieren.

W?hrend es sich bei einigen davon nur um kleinere Probleme handelt, die ein Projekt für eine Weile zum Scheitern oder es in den frühen Entwicklungsphasen zum Stillstand bringen k?nnen, haben andere weitaus schlimmere Folgen.

Ein missglückter KI-Einsatz kann eine bekannte Marke mit einem roten Gesicht zurücklassen und ihrem Ruf schaden – auch wenn dies manchmal auf recht komische Weise geschieht.

Sehen wir uns ein paar dieser peinlichen, katastrophalen und manchmal auch lustigen KI-Pannen der letzten Jahre an:

Durch den KI-Assistenten zum Schweigen gebracht

Vor ein paar Jahren, im Jahr 2018, waren KI-Assistenten eine ziemliche Neuheit, die einen sehr profitablen neuen Markt geschaffen hat.

Es überrascht nicht, dass viele Akteure auf den Zug aufsprangen, und LG war einer von ihnen. Sie versuchten, Cloi auf den Markt zu bringen, einen kleinen sprechenden Roboter, der ein intelligentes Haus steuern sollte, indem er mit ihm sprach.

Bei ihrem Debüt in der ?ffentlichkeit mochte Cloi den Besitzer jedoch offenbar nicht und demütigte damit den US-Marketingchef von LG, David VanderWaal.

Nach einer Weile begann die winzige und niedliche KI, Befehle wiederholt zu ignorieren und einen verlegenen und frustrierten VanderWaal zum Schweigen zu bringen (mit freundlicher Genehmigung von Youtube).

Vielleicht wollte Cloi damit signalisieren, dass es an der Zeit war, eine Beziehungspause einzulegen.

Der (gar nicht so) winzige Unterschied zwischen “Glatze” und “Ball”

Im Oktober 2020, als die Covid-19-Pandemie oft bedeutete, dass man auf menschliches Personal verzichten musste, nutzte ein schottischer Fu?ballverein eine automatische Kamera, um ein Spiel aufzuzeichnen.

Die automatische Kamera funktionierte eine Zeit lang gut und zeichnete das Spiel zwischen Inverness Caledonian Thistle und Ayr United im Caledonian Stadium ohne Probleme auf.

Als das Spiel jedoch in vollem Gange war, verwechselte die Kamera den gl?nzenden, kahlen Kopf eines Linienrichters mit dem Ball selbst.

In einer ?u?erst komischen Situation wurde den Zuschauern das eigentliche Spielgeschehen vorenthalten, indem der Kopf des armen Mannes in den Mittelpunkt gestellt wurde.

Wir alle freuen uns auf eine Zukunft, in der die Fu?ballvereine das Tragen von Hüten und Perücken für alle Linienrichter und Spieler vorschreiben werden.

Wenn die Gesichtserkennung Sie nicht erkennt – so überhaupt gar nicht

Unseren jüngsten Untersuchungen zufolge scheint die Gesichtserkennung alles andere als eine zuverl?ssige Technologie zu sein, und ihre Fehler k?nnen verheerende Folgen für das Leben der Menschen haben – bis hin zu Gef?ngnisstrafen.

Manchmal sind diese Missgeschicke jedoch besonders peinlich für die Entwickler dieser Tools, vor allem, wenn KI-Missverst?ndnisse zu unvorhersehbaren Fehlern führen.

Ein solcher Fall betraf die chinesische Regierung selbst. In vielen St?dten wird eine Methode angewandt, um Menschen vom unerlaubten überqueren von Stra?en abzuhalten, indem die Fu?g?nger ?ffentlich besch?mt werden.

Ihre Gesichter werden von Stra?enkameras erfasst und dann auf gro?en Bildschirmen gezeigt, zusammen mit den rechtlichen Konsequenzen.

Im Jahr 2018 erfasste eine solche Kamera das Gesicht von Dong Mingzhu, einer Milliard?rin, die Chinas gr??tem Hersteller von Klimaanlagen vorsteht und auf einer Werbetafel für einen Bus in der N?he abgebildet war. Die Kamera reagierte auf ihr Gesicht und besch?mte sie, obwohl sie gar nicht anwesend war.

Unn?tig zu sagen, dass die chinesische Regierung am meisten besch?mt wurde, aber um die Dinge fair und ausgewogen zu halten, waren sie nicht die einzigen, die ihre eigene Dosis von … auf Gesichtserkennung basierender Peinlichkeit erleben mussten (Wortspiel beabsichtigt).

Im selben Jahr hat die Rekognition-überwachungstechnologie von Amazon die Fahndungsfotos von Kriminellen, die wegen eines Verbrechens verhaftet wurden, f?lschlicherweise den Gesichtern von 28 Kongressmitgliedern zugeordnet.

Vielleicht hat die KI die Behauptung, dass alle Politiker Kriminelle sind, ein bisschen zu w?rtlich genommen…

Warum KI niemals den Rat Ihres Arztes ersetzen sollte

Eine weitere Regierung, die durch eine fehlerhafte KI gesch?digt wurde, war die britische Regierung im Jahr 2020.

Als die Coronavirus-Pandemie in vollem Gange war, starteten die britischen Gesundheitsbeh?rden CIBot, einen KI-gesteuerten virtuellen Assistenten, der die Menschen mit nützlichen Informationen über das COVID-19-Virus versorgen sollte.

Die Idee war, die ?ffentlichkeit mit wichtigen Ratschl?gen zu versorgen, aber das Tool beschr?nkte sich nicht nur auf die Auswertung offizieller Quellen und ging ein wenig zu weit.

Am Ende lieferte der Bot ungenaue Informationen über den Schweregrad und die übertragungswege des Virus und empfahl Behandlungen, darunter das Inhalieren von Dampf. Wenigstens k?nnen wir uns glücklich sch?tzen, dass er am Ende nicht Bleichmittel als Therapie empfohlen hat.

Wenn generative KI anf?ngt, sich etwas auszudenken

Viele sagen, dass generative KI wie Kinder sind, die ihre ersten Schritte in die Welt der echten, selbstbewussten Intelligenz machen.

Es gibt einige F?lle wie diesen, in denen diese Behauptung besonders zutreffend klingt. Wenn Kindern eine Frage gestellt wird, über die sie absolut nichts wissen, erfinden sie nicht selten auf der Stelle Dinge, um gut dazustehen oder um ihr sehr begrenztes Wissen über die Welt voll auszusch?pfen.

Vor ein paar Monaten machte Googles KI-Chatbot Bard anscheinend denselben Fehler, sehr zum Leidwesen seiner eigenen Sch?pfer. Und das gleich in seiner ersten Demo.

Auf die Frage “Welche neuen Entdeckungen des James-Webb-Weltraumteleskops kann ich meinem 9-j?hrigen Kind erz?hlen?” gab der Chatbot eine stichpunktartige Antwort, die u. a. besagte, dass das Teleskop “die allerersten Bilder eines Planeten au?erhalb unseres eigenen Sonnensystems aufgenommen hat”.

Einige Astronomen bemerkten treffend, dass das erste Bild eines Exoplaneten fast 20 Jahre früher, im Jahr 2004, aufgenommen wurde.

Dieser “Kinderfehler” w?re nicht weiter schlimm, wenn er nicht dazu geführt h?tte, dass die Google-Aktien in nur einem Tag 100 Milliarden Dollar an B?rsenwert verloren h?tten.

Die Schlussfolgerung

Auch wenn diese KI-Patzer nicht so schrecklich sind wie die Zeiten, in denen die KI aus dem Ruder gelaufen ist, so k?nnen sie doch eine Quelle erheblicher Peinlichkeiten für ihre Unternehmen und Entwickler sein.

Dennoch k?nnen wir nicht leugnen, wie unterhaltsam es manchmal sein kann, die Absurdit?ten zu beobachten, die durch unerfahrene oder fehlerhafte generative KI entstehen.

Die Spiele enden hier nicht, zum Beispiel als Google Fotos den Kopf eines Mannes in einen Berg verwandelte oder als es “rohe” Lachse darstellte, die in einem Fluss schwammen.

Als Menschen lernen wir mehr aus Fehlern als aus Erfolgen – wir k?nnen nur hoffen, dass diese Fehler der KI helfen, sich noch schneller zu verbessern.