Robert Kopal (Effectus): Wir werden zunehmend von Technologie abhängig, während unsere kognitiven Fähigkeiten abnehmen

Obwohl die Investitionen in KI selbst in Amerika zurückgehen, bleibt der Hype um künstliche Intelligenz hoch – sowohl Bewunderung als auch Angst (hauptsächlich um Arbeitsplätze, aber auch aus der Möglichkeit, dass sie intelligenter wird als wir). Einer der wenigen Experten, die vor dem Missbrauch ihrer Anwendung warnen, ist Professor und Leiter von Effectus, Robert Kopal. Er unterstützt nicht nur das EU-KI-Gesetz, sondern plädiert auch dafür, die Nutzung von Technologie bereits in den ersten Schritten in der Schule zu ‚regulieren‘.

Irgendwann war alles Technologie, aber die Geschichte hat gezeigt, dass es nie um Technologie ging; es ging immer um Menschen… was regulieren wir also mit dem Gesetz?

Technologie selbst ist nicht das Problem, aber ihre Anwendung kann es sein. Menschen können Technologie nutzen, aber sie können sie auch missbrauchen. In der AIAAIC-Datenbank, die Vorfälle im Zusammenhang mit ethischem Missbrauch von KI erfasst, hat sich die Anzahl der Vorfälle seit 2012 um das 26-fache erhöht. Natürlich wird KI mehr genutzt. Ich betrachte KI als eine Dual-Use-Technologie; sie kann sowohl für zivile als auch für militärische Zwecke eingesetzt werden. In einer Studie wurde derselbe Algorithmus, der eine außergewöhnlich gute und wichtige Anwendung bei der Erkennung von Molekülen hatte, die zur Behandlung schwerer Krankheiten beitragen könnten, um einen Parameter geändert – Toxizität.

Dieser Algorithmus generierte dann in nur 6 Stunden 40.000 der giftigsten Moleküle-Gifte (sogar giftiger als VX). Sam Altman hat wiederholt vor den Risiken von KI gewarnt. Kürzlich erklärte er, dass ‚Unternehmen darüber nachdenken müssen, wie alle seltsamen Dinge in die falsche Richtung gehen können.‘ Somit reguliert das EU-KI-Gesetz die Anwendung von KI, nicht die Technologie, gemäß den möglichen Risiken.

Wird das Gesetz die Innovation und Investitionen europäischer Unternehmen weiter verringern, die im Vergleich zu beispielsweise den USA schon lange an Wettbewerbsfähigkeit verlieren?

Nein. Wettbewerbsfähigkeit verlieren? Schauen wir uns die Daten an. Global Innovation Index 2022: von den Top 10 Ländern sind 7 europäisch. IMD World Competitiveness Ranking 2023: von den Top 10 Ländern sind 5 europäisch. Der Global Talent Competitiveness Index 2023: Die Schweiz ist auf dem ersten Platz, und von den Top Ten Ländern sind 7 europäisch.

Stanford AI Index Report 2023: global sind die privaten Investitionen in KI zum ersten Mal in den letzten zehn Jahren um 26,7 Prozent gesunken (2022/2021). Und in den USA um 35,5 Prozent! Das EU-KI-Gesetz wird das Vertrauen in KI erhöhen und damit ihre Anwendung, was sich positiv auf den Markt auswirken wird. Selbst der phänomenale Mustafa Suleyman erklärte in einer Auseinandersetzung mit Harari, dass das EU-KI-Gesetz ein Beispiel für hervorragende KI-Regulierung ist.

Was sind die realen Kapazitäten von KI, und ist der aktuelle Fokus auf die Lösung von Kriegs Konflikten mit Hilfe von künstlicher Intelligenz?

Es kann sicherlich helfen, Szenarien und Indikatoren zu generieren und kann zur Findung möglicher Lösungen beitragen. Aber entscheiden? In Bezug auf die Genauigkeit von Vorhersagen ist künstliche Intelligenz gut, wenn sie ’sehr sicher ist, dass etwas ist‘ oder wenn sie ’sehr sicher ist, dass etwas nicht ist.‘ Es ist jedoch genau in dem Bereich zwischen diesen beiden Extremen, dass die realen Entscheidungen am häufigsten getroffen werden und echte Lösungen gefunden werden.

Die Fähigkeit wird sein, die Schwelle des Vertrauens in KI-Empfehlungen im Vergleich zu menschlich generierten Empfehlungen zu finden/zu definieren. Ich sehe die größten Möglichkeiten im Zusammenspiel von drei Bereichen: künstliche Intelligenz vs. menschliche Intelligenz vs. augmentierte Intelligenz. Dann könnten wir die Entscheidungsfindung verbessern, weil wir wüssten, ‚wen wir fragen müssen.‘ Andernfalls wird das BDM (Bueno de Mesquita)-Modell seit langem in der Konfliktlösung verwendet, um die Mängel von Experten in Vorhersagen erfolgreich zu beseitigen.

Sie wurden zum Mitglied der Kommission für die ethische Anwendung von KI in der Bildung ernannt, teilweise weil Sie sich stark auf die Beziehung zwischen KI und Schulen/Fakultäten konzentrieren. Was wird die Kommission in der Bildungs Praxis bedeuten?

Ich danke CARNET für ihr Vertrauen. Die Aufgabe der Kommission besteht darin, Richtlinien zu erstellen und regelmäßig zu überwachen sowie Beratung und Bildung für die ethische Anwendung digitaler Technologien und künstlicher Intelligenz im Bildungssystem bereitzustellen, aber auch die Entwicklung neuer Technologien zu überwachen und ihre potenziellen Auswirkungen auf das Bildungssystem zu analysieren.

Die Auswirkungen sind bereits erheblich, insbesondere da Kinder ‚an Technologie geklebt‘ sind. Sollte sich dann etwas im Ansatz zur Grundbildung ändern?

Ich versuche, das Bewusstsein in der Bildungs- und Allgemein Öffentlichkeit für die Herausforderungen und Risiken zu schärfen, die die Welt der Technologie, Daten, Informationsstörungen, künstliche Intelligenz, Nachhaltigkeit, Demografie und alternde Bevölkerung mit sich bringt, sowie signifikante intergenerationale Unterschiede. Laut einigen Daten haben allein in Kroatien im letzten Jahr mehr als 4.000 Kinder eine Verschiebung der Einschreibung in die erste Klasse aufgrund psychophysischer Unreife, schlechter graphomotorischer Fähigkeiten und fehlender notwendiger sprachlicher Fähigkeiten erhalten, und sogar 147 Erstklässler müssen das Jahr wiederholen. Ist es möglich, dass digitale Demenz tatsächlich ihren Tribut fordert?

Wir werden zunehmend von Technologie abhängig, während unsere kognitiven Fähigkeiten abnehmen. Viele Kinder müssen Informationen nicht mehr merken, weil sie wissen, dass sie sie jederzeit ‚googeln‘ können. Es ist wichtig, natürlich Inhalte zu fördern, die zur Entwicklung digitaler Kompetenzen beitragen, aber die vorzeitige Einführung digitaler Inhalte kann die Entwicklung einer Vielzahl von wesentlichen Fähigkeiten verlangsamen und vollständig behindern. Lehrpläne sollten an die Entwicklung von Fähigkeiten und reflektierendem Denken angepasst werden, anstatt auf dem Auswendiglernen großer Mengen von Fakten und reproduktivem Denken zu basieren. Auch soziale Fähigkeiten, Einfallsreichtum, Selbstständigkeit und Empathie sollten entwickelt werden. Es ist sicherlich wichtig, die Anzahl der Fächer zu erhöhen, die Kreativität und kritisches Denken fördern, und in höheren Klassen einen stärkeren Fokus auf einen projektbasierten Lernansatz zu legen.

Wie sollten wir dann die Geschichte der künstlichen Intelligenz angehen?

Führende Verbände und Einzelpersonen in Kroatien, die sich in verschiedenen Weisen und Kapazitäten mit der Entwicklung, Lehre oder Förderung von künstlicher Intelligenz beschäftigen, plädieren für einen Ansatz der ‚absichtlichen Nicht-Definition‘ des Begriffs ‚künstliche Intelligenz‘, da sie angeblich auf die chinesischen und amerikanischen Modelle setzen, die keine feste Definition von KI durch Gesetze festlegen wollen. Andernfalls hat die USA den Begriff künstliche Intelligenz definiert (NATIONAL ARTIFICIAL INTELLIGENCE ACT OF 2020).

Wie können wir über etwas sprechen, wenn wir nicht wissen, worüber wir sprechen? Einige der KI-Themen, die offen diskutiert werden müssen, umfassen die Definition und Regulierung von KI, die Dual-Use von Algorithmen: Genauigkeit vs. Fairness; Algorithmen: WMD – ‚Waffen der mathematischen Zerstörung’… Algorithmen sagen nicht die Zukunft voraus; sie verursachen die Zukunft; KI in der Bildung; sollten wir die KI-Entwicklung stoppen/verlangsamen; KI und Demokratie; KI und Kriegsführung, KI und Waffen; KI und Pharmazeutika; KI vs. LLM; künstliche Intelligenz vs. menschliche Intelligenz; KI und der Arbeitsmarkt, KI, selbsterfüllende Prophezeiung & Arbeitsmarkt; wie man KI-Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend, ethisch und umweltfreundlich macht; KI-Infodemie; wie man die Herausforderung des ‚Verlernens‘ von KI löst?; Datenabruf aus dem Internet; kognitive Sparsamkeit; Leistung und Genauigkeit von ChatGPT vs. Zeit; umfassende Bewertung der Zuverlässigkeit von GPT-Modellen; LLM Weisheit der Massen vs. Gesellschaft des Geistes; Beispiele für Vorurteile in KI-generierten Bildern; UNESCO: strengere ethische Richtlinien für KI; KI-Sprachlücke; Wissenschaftler, die KI-Modelle zur Untersuchung menschlichen Verhaltens erforschen; KI-Problem – Tribut an die Umwelt; Cybersicherheit und KI; Prompt Engineering, die richtigen Fragen stellen; ‚Alignment‘-Problem, usw.

Und in diesem globalen ’super-wahljahr‘ (und in den kommenden Jahren) wird eine besondere Herausforderung die Informationsstörungen und die Auswirkungen von KI sein.

Lesen Sie das gesamte Interview in der neuen digitalen und gedruckten Ausgabe von Lider.