Who Let the Bots Out

DEBATE

Künstliche Intelligenz

Zweig der Informatik, der mit der Automatisierung intelligenten Verhaltens befaßt ist. (Luger)

27 November 2024

Who Let the Bots Out

As artificial intelligence revolutionizes modern warfare, systems like Israel’s Lavender and Ukraine’s Clearview AI are transforming combat with precision and efficiency. This advancement has sparked an urgent debate on the responsible use and governance of AI in military, with 57 countries signing the Political Declaration on AI’s military applications, urging adherence to international law. Central to this is the accountability – who is responsible when AI systems violate laws? This blog post argues that state responsibility for AI violations remains viable within existing legal frameworks.

12 November 2024

Julia Danevitch

Frisch gewagt ist nur halb gewonnen

Kein Erfolg ohne Training und gutes Trainingsmaterial. Was schon seither für Menschen gilt, ist auch für Künstliche Intelligenz („KI“) nicht anders zu beurteilen. Diese benötigt quantitativ und qualitativ hochwertige Datensätze, um menschenähnlich kreativen Output generieren zu können. Teil dieser Datensätze sind urheberrechtlich geschützte Werke (etwa Fotos oder Texte), derer sich Unternehmen auch bedienen, ohne vorher die Einwilligung der Urheber einzuholen. Ein Urteil des LG Hamburg versucht nun dieses Spannungsfeld aufzulösen – dies gelingt allerdings nur teilweise.

03 May 2024

Lennart Laude, Andreas Daum

KI als neues Wahlkampfinstrument

KI-Systeme werden auch in Deutschland verstärkt zur Erzeugung von politischen Inhalten verwendet. Politische Parteien nutzen die Fähigkeiten Künstlicher Intelligenz, um unwahre Inhalte über den politischen Gegner zu generieren und zu verbreiten. Eine Überprüfung zeigt, dass die neue europäische Digitalregulierung nicht auf politische Sachverhalte zugeschnitten ist.

15 March 2024

Lucas H. M. Conceicao

Brazilian Judges Regulate Elections … and AI

Brazil has new regulations on AI and election interference. Also, in Brazil, the judiciary oversees elections. As municipal elections are coming up, we face a quite unique situation of technological challenges, untested laws, and unusual institutional arrangements. Although innovative, these regulations are constrained in their effectiveness and indifference to broader regulatory debates concerning the regulation of AI, showcasing an uncomfortable relationship between judicial and legislative powers regarding digital policy in Brazil. Disregarding the complexity of AI, the regulations legitimise the expansion of the judicial branch's power to deal with digital threats to democracy while not fully engaging with how these threats materialise through the development and use of AI.

15 December 2023

Hannah Ruschemeier, Rainer Mühlhoff

Daten, Werte und der AI Act

In der letzten Woche erschien hier ein Text mit dem unterstützenswerten Anliegen, auf die Problematik von Ethics-Washing in der Diskussion um die Regulierung Künstlicher Intelligenz und Datenschutz hinzuweisen. Wir meinen, dass dazu andere Fragen gestellt werden müssen, als diejenigen, die der Beitrag aufwirft, und zweitens die angesprochenen Aspekte differenziert werden sollten. Angesichts zahlreicher legislativer Desiderate des KI-Verordnungsvorschlags und des nicht abgeschlossenen Gesetzgebungsprozesses sind diese Diskussionen zu Grundlagen von Technologie-Regulierung aktuell auch dringend geboten. Wir plädieren dafür, Ethik und Werte nicht als Gegensätze zu einer demokratischen Gesetzgebung zu verstehen, sondern als notwendige Komponenten einer informierten regulatorischen Debatte.

13 December 2023

Philipp Hacker

What’s Missing from the EU AI Act

The AI Act negotiators may still have been recovering from the political deal that was struck during the night of December 8 to 9 when two days later Mistral AI, the French startup, open sourced its potent new large language model, Mixtral 8x7B. Though much smaller in size, it rivals and even surpasses GPT 3.5 on many benchmarks thanks to a cunning architecture combining eight different expert models. While a notable technical feat, this new release epitomizes the most pressing challenges in AI policy today, and starkly highlights the gaps left unaddressed by the AI Act: mandatory basic AI safety standards; the conundrum of open-source models; the environmental impact of AI; and the need to accompany the AI Act with far more substantial public investment in AI.

05 December 2023

Maximilian Wagner

Daten und Werte

Grundsätzliche Fragen zum Verhältnis von Künstlicher Intelligenz und Datenschutz sind noch immer ungeklärt. Die geplante KI-Verordnung wird diese Probleme nicht lösen, sondern weiter vertiefen. Denn der europäische Gesetzgeber hat bislang davon abgesehen, das Verhältnis von KI- und Datenschutz-Grundverordnung eindeutig zu regeln. Die dort formulierten Pflichten für die Entwicklung und den Einsatz sogenannter Hochrisiko-KI-Systeme sollen bereits bestehende Regelungen ergänzen, nicht ersetzen. Nun zeichnet sich - paradoxerweise im Rahmen unionaler Bemühungen Recht zu setzen - ein Trend weg von positiv gesetzten, bestimmbaren Recht an. Regulatoren, Wissenschaft und Lobby reden stattdessen naturrechtlichen Ideen und einer 'KI-Ethik' das Wort, die letztlich vor allem auf eines hinausläuft: bloß keine strengen Regeln.