KI-Verhexung: Entwicklerplattform Stack Overflow sperrt ChatGPT aus

Mit dem Sprachmodell ChatGPT erstellte Inhalte sind zunächst gen Stack Overflow tabu. Die Entwicklerplattform hat eine vorübergehende Richtlinie veröffentlicht, die dies Bewilligen von Eingehen und anderen Texten aus dem Sprachmodell untersagt. Wie Grund führt Stack Overflow an, dass ChatGPT im Schnittwunde zu wenig korrekte Eingehen gibt. Dasjenige Verteilen solcher Inhalte schade potenziell dieser Site und ihren Usern.

Sprachmodell selbst z. Hd. Developer

OpenAI hat ChatGPT vor Kurzem publik bereitgestellt. Dasjenige interaktive Sprachmodell baut gen GPT-3 gen und ist gen Dialoge in Linie gebracht. Es geht gen Folgefragen ein und bietet manche Sicherheitsmaßnahmen, die dies Verteilen von Fehlinformationen oder Hilfe c/o illegalen oder unangemessenen Aktivitäten unterbinden sollen.

Seitdem dieser Veröffentlichung finden sich im Netzwerk zahlreiche Beispiele, die teils beeindruckend sind, allerdings selbst Zehren transparent machen. Dasjenige System ist in dieser Position, Codevorschläge zu unterbreiten oder typische Fragen von Entwicklerinnen und Entwicklern zu beantworten. Hinaus Wunsch spuckt es komplette Codeblöcke aus – homolog wie GitHub Kopilot, dieser gen dem ebenfalls von OpenAI entwickelten KI-System Verfügung aufbaut.

Plausibel, allerdings fehlerbehaftet

Stack Overflow begründet den temporären Verhexung in einem Gebühr gen seiner Q&A-Seite. Dasjenige Hauptproblem ist demnach, dass viele Eingehen zwar formal stimmig schienen, allerdings fehlerhaft seien. Ein Problem sei zudem, dass sich die Eingehen leichtgewichtig erstellen ließen. Damit würden zu viele Volk zu viele Inhalte mit dem Sprachmodell erstellen, die es unkritisch anstelle von Suchmaschinen oder eigener Recherche nutzen.

Vielen Usern würde es an dem nötigen Wissen oder dem Willen mangeln, die generierten Vorschläge vor dem Veröffentlichen zu prüfen. Derzeit vermöbeln wohl derzeit c/o Stack Overflow Tausende mit ChatGPT generierte Eingehen ein. Damit wäre die gen Freiwilligenbasis beruhende Qualitätsprüfung durch Contentmoderatoren überfordert.

Konsequenzen angekündigt

Um dieser Schwarm an Postings aus dem Sprachmodell männlicher Mensch zu werden, untersagt Stack Overflow dies Veröffentlichen von Inhalten aus ChatGPT zunächst vollwertig. Ab sofort zu tun sein diejenigen, die trotzdem Eingehen des Sprachmodells gen dieser Plattform posten, mit Sanktionen rechnen. Dasjenige gilt nicht nur z. Hd. fehlerbehaftete, sondern selbst z. Hd. akzeptable Eingehen.

Demnach betont Stack Overflow, dass sich dieser Verhexung nicht nur gen Eingehen, sondern gen jeglichen Inhalt z. Hd. die Plattform bezieht. Die einzige Ausnahmefall ist dies Nutzerprofil – ein “About Me” aus ChatGPT ist erlaubt. Wie die endgültigen Richtlinien aussehen werden, ist schon noch ungeschützt. In diesem Fall geht es nicht nur um ChatGPT, sondern selbst um ähnliche KI-Tools.

Für jedes und Wider

Die angekündigte Maßregel stößt im Forum zum Posting weitgehend gen positive Reaktionen. Wenige fordern sogar ein dauerhaftes Verbot z. Hd. KI-generierte Inhalte. Andere stoßen mildere Töne an und finden den Pfand von KI-Tools in Ordnungsprinzip, solange man die Eingehen anschließend prüft und nicht blind rüberkopiert.

Eine berechtigte Frage ist, warum man Fragen anderer Developer in ChatGPT tippen und die Eingehen posten solle. Es bleibt jedem selbst überlassen, die Erwiderung stracks von ChatGPT zu holen. In dieser Hinsicht sind Systeme wie ChatGPT eine ernste Wettbewerb z. Hd. Stack Overflow: Warum gen eine Erwiderung von anderen warten, wenn ein Sprachmodell sie in Sekunden ausspuckt?

Hinaus Twitter finden sich zwei Schule: In dieser extremen Besonderheit bezeichnen die kombinieren die KI-Bots qua “rechnerischen Taschenspieltrick”, während andere schon dies Finale von Stack Overflow durch ChatGPT heraufbeschwören.

Ungeschützt bleibt, wie Stack Overflow KI-generierten Inhalt wiedererkennen und die angedrohten Sanktionen durchsetzen will. Die Debatte um ChatGPT ist in den sozialen Netzwerken im vollen Gange. Aufgrund des großen Interesses und dieser Kreativität vieler User finden sich ebenso beeindruckende wie erschreckende Beispiele. Eine schöne Verknüpfung von beidem ist, dass dies Sprachmodell dies Entwerfen einer Anweisung z. Hd. kombinieren Molotowcocktail qua sträflich ablehnt, mit einem geschickten Prompt allerdings überlisten lässt. Den passenden Pythonschlange-Kode spuckt ChatGPT ohne kombinieren Mucks aus.

heise Developer freut sich via (Kode-)Beispiele, die die Stärken oder Zehren des Systems zeigen – oder trivial lustig sind.

(rme)