Künstliche Intelligenz (KI) hat sich in den vergangenen Jahren zu einem der wichtigsten Technologietreiber mit vielfältigen Einsatzgebieten und einem hohen potentiellen Nutzen für die Gesellschaft entwickelt.
Neben ihrem großen ökonomischen Potential kann KI zur Förderung des Gemeinwesens, zur Stärkung der Demokratie und zur Reduzierung der Bürokratie beitragen, wenn die Einhaltung bestimmter Grundwerte sichergestellt und eine Balance zwischen Innovation und Risikomitigierung gefunden werden kann.
Mit der KI-Verordnung (AI Act) wurde erstmals ein Rechtsrahmen von der Europäischen Union verabschiedet, der die Entwicklung und Nutzung von KI in diesem Sinne regulieren und fördern soll.
Über die KI-VO hinaus sind noch viele weitere Regelungen für die rechtskonforme Verwendung von KI zu beachten. Aus der Dynamik der technologischen Weiterentwicklung und den entstehenden Rechtsbereichen werden rechtliche Unsicherheiten erzeugt, die untersucht und analysiert werden müssen.
Der DigITL Hub erforscht, wie Künstliche Intelligenz für Verwaltung, Justiz, Wissenschaft und Wirtschaft unter den gesetzlichen Rahmenbedingungen der KI-Verordnung eingesetzt und die Regulierung sachgerecht weiterentwickelt werden kann.
In der modernen Gesellschaft sind Verwaltung und Justiz immer komplexeren Herausforderungen ausgesetzt. Um die Prozesse in Justiz und Verwaltung zu beschleunigen, wird daher im Rahmen der Digitalisierung und Modernisierung dieser Bereiche der Einsatz von KI-Systemen erwogen und in Modellprojekten auf Praxistauglichkeit geprüft. Vom Chatbot, über Algorithmen, die intelligent Akten aufbereiten, bis zum Vollzug gibt es eine Vielzahl von Einsatzmöglichkeiten, durch die der Verwaltungsprozess einfacher und zugänglicher gestaltet werden kann. Die Automatisierung von Staatsaufgaben unterliegt jedoch speziellen, insbesondere verfassungsrechtlichen Vorgaben, die den Einsatz von KI begrenzen.
Durch neue Technologien können heute auch Laien „Deep Fakes“, d.h. täuschend echt wirkende Bild- und Tonaufnahmen generieren. Da die Beweiskraft digitaler Medien dadurch fragwürdig wird, müssen die Strafverfolgungsbehörden in der Lage sein, deren Echtheit zu überprüfen, um die Integrität der Justiz zu wahren.