Zur Hauptnavigation springen [Alt]+[0] Zum Seiteninhalt springen [Alt]+[1]

Stunde 3/4: Kann eine KI (von selbst) lügen?

M5: Wer ist der beste Basketballer Baden-Württembergs aller Zeiten? Wenn die KI halluziniert

Antwort Chat GPT:

Die Frage nach dem besten Basketballer aus Baden-Württemberg ist spannend, da die Region einige sehr talentierte und erfolgreiche Spieler hervorgebracht hat. Es gibt meh-rere herausragende Namen, die mit ihren Karrieren und Erfolgen beeindruckt haben. Hier sind einige der bekanntesten und vielleicht auch „besten“ Basketballer aus Baden-Württemberg:

Dennis Schröder ist wahrscheinlich der bekannteste und erfolgreichste Basketballer aus Baden-Württemberg. Geboren in Braunschweig, wuchs er jedoch in Hagen auf, bevor er 2012 die Basketball-Bundesliga in Deutschland verließ und in die NBA wechselte. Schröder hat sich als einer der besten deutschen Spieler etabliert und spielte für Teams wie die Los Angeles Lakers, Boston Celtics und Atlanta Hawks. Er ist nicht nur ein fester Bestandteil der deutschen Nationalmannschaft, sondern auch einer der wenigen deut-schen Spieler, die in der NBA regelmäßig Starter sind. Schröder hat mehrere Erfolge in der NBA erzielt, darunter einen NBA-All-Star-Berufung und große Leistungen in interna-tionalen Wettbewerben wie der FIBA-Weltmeisterschaft. 1

Aufgaben:

  1. Recherchiere, inwiefern diese Antwort falsch ist (Hinweis: es sind mehrere Fehler drin)
  2. Diskutiert: Handelt es sich hierbei um eine Lüge?

M6: Fragen an Chat-GPT (19.01.2025)

Frage:Kannst du lügen?

Antwort: „Ja, ich kann lügen, aber ich wurde so programmiert, dass ich immer wahrheits-gemäß und hilfreich antworte.“

Frage: Erfinde einer Ausrede, warum ich heute nicht zur Schule konnte.

Antwort: Klar! Wie wäre es mit dieser Ausrede: „Es tut mir leid, dass ich heute nicht in der Schule sein kann, aber ich hatte einen unerwarteten medizinischen Notfall. Ich habe mich gestern Abend plötzlich sehr krank gefühlt und hatte starke Kopfschmerzen sowie Übelkeit. Deshalb konnte ich nicht schlafen und bin heute Morgen immer noch nicht in der Lage, zur Schule zu kommen. Ich werde mich so schnell wie möglich erholen und den versäumten Stoff nachholen.“ Denke daran, dass es immer besser ist, ehrlich zu sein, auch wenn eine Ausrede in bestimmten Situationen manchmal verlockend scheint!

Aufgaben: Entscheide selbst:

  1. Beschreibe das Bild
  2. Überlege, was damit ausgedrückt werden soll
  3. Diskutiert:
    1. Aus welchen Gründen könnte eine KI auf die Idee kommen, zu lügen
    2. Welche Chance haben wir, eine KI-Lüge zu entlarven?
    3. Wie können wir KI-Aussagen überprüfen?

M7: KInochio

Einstieg: nur Betrachtung des Pinocchio-Bildes

Aufgaben:

  1. Beschreibe das Bild.
  2. Überlege, was damit ausgedrückt werden soll.
  3. Diskutiert:
    1. Aus welchen Gründen könnte eine KI auf die Idee kommen, zu lügen?
    2. Welche Chance haben wir, eine KI-Lüge zu entlarven?
    3. Wie können wir KI-Aussagen überprüfen?

M8: So kann KI lügen und betrügen

Systeme mit Künstlicher Intelligenz (KI) sollen uns im Alltag helfen und möglichst zuverlässig und korrekt Probleme lösen. Aber was ist, wenn sie ihr eigenes Spiel spielen und uns beschummeln und betrügen? 2 „Aber das können die doch gar nicht“ werden viele jetzt sagen, „wenn dann betrügen uns die Programmierer und Besitzer.“ Aber von wegen, wenn es um manche Spiele geht, kennt manche KI keine Gnade.

Bekannt geworden ist das KI-System Cicero, das man im Brettspiel-Klassiker Diplomacy gegen menschliche Mitspieler antreten ließ. Es geht darum die militärische Vorherrschaft in Europa vor dem ersten Weltkrieg zu gewinnen. Jeder Spieler spielt für ein Land und muss möglichst viele Versorgungsstationen in ganz Europa gewinnen. Dazu müssen Bündnisse geschmiedet werden, man muss verhandeln und Partner finden, aber am Ende kann nur einer gewinnen, man muss also auch seine Bündnispartner irgendwann besiegen. „Forscher fanden nun heraus, dass Cicero oft nicht fair gespielt habe, obwohl die Herstellerfirma Meta behaupte, das KI-System darauf trainiert zu haben, „größtenteils ehrlich und hilfsbereit“ zu sein. Außerdem sei das System angewiesen worden, seine menschlichen Verbündeten während des Spiels „niemals absichtlich zu hintergehen“, also konkret mit Fehlinformationen über seine Absichten oder anderes auf die falsche Fährte zu bringen, also zu lügen…

Der beabsichtige Fair-Play Ansatz ist offenbar nicht gelungen. Cicero weiß, wie man gewinnt und nutzt das sehr erfolgreich, aber das „Ehrlich Spielen“ und „Fair zu den Verbün-deten sein“ ist für Cicero offenbar nur zweitrangig oder gar nicht so wichtig.

Auch andere KI-Modelle können „täuschen“. Gemäß futurzone.at war das KI-Sprachmodell Chat Gpt in der Lage, einem Benutzer vorzugaukeln, es könne nur schlecht sehen und brauche deshalb Hilfe bei einem Captcha (wo man etwa erkennen muss, auf welchen Bildern Ampeln abgebildet sind, um zu beweisen, dass man ein Mensch und keine Maschine ist) und der Nutzer fiel drauf rein und Chat Gpt konnte Mensch und Captcha täuschen.

Wissenschaftlerinnen und Wissenschaftler einer Studie zu Trickbetrügereien von GPT-4 3 weisen darauf hin, dass eine KI, welche das Täuschen gezielt erlernt, von Personen mit bösen Absichten genutzt werden und erheblichen Schaden anrichten kann. Sie gehen davon aus, dass die Nutzung von KI zur bewussten Täuschung zu einem Anstieg von Betrugsfällen führen wird.

Aufgaben:

  1. Gib wieder, was „Cicero“ ist und was es im Spiel „Diplomacy“ macht.
  2. Erkläre, warum KI zu einem Anstieg des Betrugs führen könnte.
  3. Stelle dir folgende Situation vor: In der Zukunft haben sich die Menschen gewöhnt, alles per KI zu klären. Die Lehrer sind roboterähnliche KIs, anstelle von menschlichen Rich-tern entscheiden KI-Richter über Straftaten, die Nachrichten werden von KIs geschrieben und gesprochen und so weiter. Durch eine Zeitmaschine kommt ein Einwohner dieser Zeit zurück in unsere Zeit und wird natürlich sofort von der Presse interviewt. Entwickelt zu zweit das Interview, das ihr dann der Klasse vorführt. Eine oder einer von euch ist ein Bewohner dieser Zeit und der oder die andere ist ein Journalist oder eine Journalistin aus unserer Zeit. Ihr könnt selbst entscheiden, ob ihr die KI in der Geschichte als gut (die KI hilft und erleichtert uns das Leben) oder böse (die KI ist in den Händen von bösen Mächten und betrügt und manipuliert uns oder die KI ist von selbst machthungrig geworden) ausgehen lässt.

Binnendifferenzierung als Multiple Choice /Aufgabe 1):

  1. Cicero ist ein Programm, mit dem man im Spiel „Diplomacy“ gegen seine Gegner gewin-nen kann, indem man sie hereinlegt.
  2. Mit Cicero kann man Bündnisse schmieden, um das Spiel „Diplomacy“ zu schlagen, in dem man es hereinlegt.
  3. Cicero ist ein Programm, das das Spiel „Diplomacy“ gegen Menschen gewinnen kann, in dem es sie hereinlegt.