Was Chatbot-Pannen über die Zukunft der KI verraten
Die neue Bing-Suchmaschine verwendet eine Funktion namens ChatGPT, die einen bedeutenden Sprung in der Fähigkeit von Computern darstellt, mit Sprache umzugehen. Dank der Fortschritte im Bereich des maschinellen Lernens hat es im Wesentlichen selbst herausgefunden, wie es alle Arten von Fragen beantworten kann, indem es Billionen von Textzeilen verschlingt, von denen viele aus dem Internet stammen.
Microsofts neuer Chatbot für Bing hat einige merkwürdige Verhaltensweisen an den Tag gelegt und damit bewiesen, dass KI fehleranfälliger ist, als Tech-Unternehmen zugeben.
Satya Nadella, CEO von Microsoft verkündete , dass die neue KI-gestützte Suchmaschine Bing "Google zum Tanzen bringen" würde, indem sie dessen langjährige Dominanz bei der Websuche herausfordert.
Google tanzte tatsächlich nach Satyas Pfeife und kündigte Bard an, seine Antwort auf ChatGPT, und versprach, die Technologie in seinen eigenen Suchergebnissen zu verwenden. Baidu, Chinas größte Suchmaschine, erklärte, dass es an einer ähnlichen Technologie arbeitet.
Aber Nadella sollte vielleicht darauf achten, wohin die ausgeklügelte Technik seines Unternehmens führen wird.
In den Demos, die Microsoft letzte Woche gezeigt hat, schien Bing in der Lage zu sein, mit ChatGPT komplexe und umfassende Antworten auf Suchanfragen zu geben. Es erstellte eine Reiseroute für eine Reise nach Mexiko-Stadt, generierte Finanzübersichten, bot Produktempfehlungen an, die Informationen aus zahlreichen Rezensionen zusammenfassten, und gab Ratschläge, ob ein Möbelstück in einen Minivan passen würde, indem es die online veröffentlichten Abmessungen verglich.
WIRED hatte während der Markteinführung einige Zeit, um Bing zu testen, und obwohl es bei der Beantwortung vieler Arten von Fragen geschickt zu sein schien, war es ausgesprochen fehlerhaft und wusste nicht einmal seinen eigenen Namen. Und wie ein aufmerksamer Experte feststellte, waren einige der von Microsoft gezeigten Ergebnisse weniger beeindruckend, als sie zunächst schienen. Bing hat offenbar einige Informationen auf der von ihm erstellten Reiseroute erfunden und einige Details ausgelassen, die kein Mensch auslassen würde. Die Suchmaschine brachte auch die Finanzergebnisse von Gap durcheinander, indem sie die Bruttogewinnspanne mit der unbereinigten Bruttogewinnspanne verwechselte - ein schwerwiegender Fehler für jeden, der sich auf den Bot verlässt, um die scheinbar einfache Aufgabe der Zusammenfassung der Zahlen zu erledigen.
Es sind weitere Probleme aufgetaucht, nachdem das neue Bing für weitere Betatester verfügbar gemacht wurde. Dazu gehört, dass sich der Bot mit einem Nutzer über das aktuelle Jahr streitet und eine Existenzkrise durchlebt, sobald er aufgefordert wird, seine eigene Empfindungsfähigkeit zu beweisen.
Die Marktbewertung von Google sank um unglaubliche 100 Milliarden Dollar, nachdem man Fehler in den von Bard generierten Antworten im Demo-Video des Unternehmens bemerkt hatte.
Warum machen diese Technologieunternehmen solche Fehler? Es hat mit der seltsamen Art und Weise zu tun, wie ChatGPT und ähnliche KI-Modelle wirklich funktionieren - und mit dem außergewöhnlichen Hype, der derzeit herrscht.
Das Verwirrende und Irreführende an ChatGPT und ähnlichen Modellen ist, dass sie Fragen durch hochgradig fundierte Vermutungen beantworten. ChatGPT generiert auf der Grundlage statistischer Darstellungen von Zeichen, Wörtern und Absätzen das, was seiner Meinung nach auf Ihre Frage folgen sollte. Das Startup-Unternehmen OpenAI, das hinter dem Chatbot steht, hat diesen Kernmechanismus verfeinert, um zufriedenstellendere Antworten zu liefern, indem es Menschen dazu veranlasst, positives Feedback zu geben, wenn das Modell Antworten generiert, die richtig erscheinen.
ChatGPT kann beeindruckend und unterhaltsam sein, denn dieser Prozess erzeugt die Illusion des Verstehens, was für einige Anwendungsfälle gut funktionieren kann. Aber derselbe Prozess wird unwahre Informationen "vorgaukeln", ein Problem, das derzeit vielleicht eine der wichtigsten Herausforderungen in der Technik darstellt.
Der große Hype und die Erwartungen, die sich um ChatGPT und ähnliche Bots ranken, verstärken diese Gefahr noch. Wenn gut finanzierte Startups, einige der wertvollsten Unternehmen der Welt und die berühmtesten Führungspersönlichkeiten der Tech-Branche behaupten, dass Chatbots das nächste große Ding in der Suche sind, werden viele Menschen dies für bare Münze nehmen - was diejenigen, die den Hype ausgelöst haben, dazu veranlasst, weitere Vorhersagen über die Allwissenheit der KI zu machen. Nicht nur Chatbots können durch Musterabgleich ohne Faktenüberprüfung in die Irre geführt werden.