Digitaler Gerichtssaal: Hälfte der Richterschaft befürchtet durch künstliche Intelligenz manipulierte Aussagen

foto freepik

Eine aktuelle Umfrage zur Digitalisierung der Justiz zeigt: Professionelle Videokonferenz- und audiovisuelle Präsentationstechnik in den Gerichtssälen sind die Basis für eine digitale Verhandlungsführung. Allerdings sehen 50 Prozent der Befragten auch die Gefahr, dass Video-Aussagen durch künstliche Intelligenz manipuliert werden könnten. Das Berliner Systemhaus Arktis IT Solutions hat bundesweit rund 130 Richterinnen und Richter zum Thema »Digitaler Gerichtssaal« befragt [1].

»Mithilfe der digitalen Verhandlungsführung kann die Justiz schneller und effizienter arbeiten. Daher müssen nach Vorgaben der Bundesregierung bis Anfang 2026 alle Gerichtssäle in Deutschland mit Videokonferenztechnik ausgestattet werden«, sagt Jan Christian Hesterberg, der als Prokurist bei Arktis sowohl für den Vertrieb als auch für den Bereich E-Justice verantwortlich ist. Auch die Richterschaft ist von den Vorteilen der Online-Welt überzeugt: So erwarten zwei von drei Richterinnen und Richtern, dass die Digitalisierung der Verhandlungssäle den finanziellen Aufwand für alle Prozessbeteiligten reduzieren wird.

»Künstliche Intelligenz (KI) birgt im Rahmen der Digitalisierung ein zusätzliches Potenzial und kann beispielsweise die Prozessführung durch KI-gestützte Transkription deutlich vereinfachen«, ist E-Justice-Experte Hesterberg überzeugt. Um einem möglichen Missbrauch aber von Anfang an einen Riegel vorzuschieben, sollten die Gerichte bei der Auswahl ihrer Videokonferenztechnik auf ausgereifte und besonders vertrauenswürdige Lösungen setzen. »In Kombination mit begleitenden Schulungen führt die Integration neuer Technologien oder Medien in den Gerichtssaal dann sogar zu einem Sicherheitsgewinn, der mit Effizienz- und Kostenvorteilen einhergeht«, so Hesterberg weiter.

Die Umfrageergebnisse zeigen, dass sich die Richterinnen und Richter der digitalen Risiken durchaus bewusst sind: »50 Prozent aller Befragten halten eine Manipulation von Video-Aussagen durch KI für möglich. Um den Einsatz von Deepfakes oder manipulierten Daten zu verhindern, müssen deshalb hohe Sicherheitsbarrieren im IT-Ökosystem integriert und die Nutzerinnen und Nutzer im Umgang geschult werden«, sagt Jan Christian Hesterberg. Noch würden technologische Neuerungen im Gerichtssaal häufig zu Unsicherheiten führen, weshalb sich die Richterschaft in der Umfrage mit großer Mehrheit für eine Anpassung der Juristenausbildung ausgesprochen hat.

 

[1] Whitepaper »Digitaler Gerichtssaal«

Die ARKTIS IT solutions GmbH hat im Herbst 2023 Richterinnen und Richter an unterschiedlichen Gerichtsbarkeiten in Deutschland zum Thema »Digitaler Gerichtssaal« befragt. Die insgesamt 127 Teilnehmerinnen und Teilnehmer kamen aus sieben verschiedenen Bundesländern und allen Hierarchiestufen. Ein Whitepaper mit den zentralen Ergebnissen der Umfrage steht hier zum Download bereit: www.digitaler-gerichtssaal.de

 

5107 Artikel zu „KI Recht“

Zwischen DSVGO und AI Act – Wie Unternehmen beim Einsatz von KI rechtliche Risiken im Blick behalten

Fünf Jahre ist die DSGVO nun in Kraft und die Europäische Kommission will die Regelung noch im ersten Halbjahr verbessern. Konkret sollen verbindliche Fristen für die Weiterleitung von Beschwerden und eine generelle Bearbeitungsfrist kompletter Beschwerdeverfahren eingeführt werden. Das Thema KI wird die EU separat im »AI Act« regeln, wobei DSGVO und KI eng verflochten sind,…

Generative KI: Mehrheit fürchtet Bias, Datenschutzverletzungen und Urheberrechtsprobleme

Applause befragt über 3.000 Fachleute weltweit zu ihrer Nutzung und ihren Bedenken von Nutzung generativer KI am Arbeitsplatz. 90 Prozent der Teilnehmer weltweit befürchten, dass KI-Voreingenommenheit die Genauigkeit der Antworten beeinträchtigen könnte. 67 Prozent glauben, dass generative KI-Dienste den Datenschutz verletzen.   Applause, ein Anbieter für Software-Testing und digitale Qualitätssicherung, hat die Ergebnisse seiner ersten…

PROXESS DMS ergänzt Microsoft Dynamics 365 Business Central um rechtskonforme Archivierung, KI-basierte Belegerkennung und automatisierte Workflows

Microsoft Dynamics 365 Business Central (Dynamics 365 BC) stellt als ERP-System für KMU praktische Basisfunktionalitäten, deren Effizienz durch Experten-Tools maßgeblich optimiert werden können. So schließt die Integration des Dokumentenmanagementsystems PROXESS DMS gleich mehrere Funktionslücken. Geboten werden eine rechtssichere Archivierung von Eingangs- und Ausgangsdokumenten direkt aus dem System inklusive Recherchezugriff, eine automatisierte KI-gestützte Belegerfassung sowie ein…

5 Jahre DSGVO: ethische & datenschutzrechtliche Aspekte der KI-Nutzung im Fokus

Am 25. Mai waren es fünf Jahre, seit die europäische Datenschutzgrundverordnung (DSGVO) in Kraft trat. In den letzten Jahren standen vor allem die Verbesserungen bei der Governance, Überwachung, Sensibilisierung und strategischen Entscheidungsfindung in Bezug auf die Nutzung von Verbraucherdaten im Fokus. Innerhalb der letzten 12 Monate ist aber auch ein weiteres Thema ins Blickfeld der…

»Embedded-KI wird im Jahr 2023 einen regelrechten Boom erleben« 

Viacheslav Gromov ist Gründer und Geschäftsführer von AITAD, einen Full-Stack-Embedded-KI Anbieter. Im Interview spricht Gromov über Lieferengpässe, Predicitive/Preventive Maintenance, Nachhaltigkeit, was es mit Trends wie Hardware-as-a-Service in aktueller Krise auf sich hat und warum Unternehmen auf Individuallösungen setzen sollten.   Was verbirgt sich hinter AITAD? AITAD steht für Innovation durch lokale KI in Produkt und…

EU schafft Rechtsrahmen für KI und schafft KI-Plan für Mitgliedstaaten

Nach Angaben der EU soll die Kombination aus dem ersten Rechtsrahmen für Künstliche Intelligenz  und einem neuen koordinierten Plan mit den Mitgliedstaaten die Sicherheit und die Grundrechte der Menschen und Unternehmen in Europa gewährleisten. Ziel ist es, gleichzeitig die Einführung von KI, Investitionen und Innovationen in der gesamten EU zu fördern. Die neue KI-Verordnung soll…

KI und Edge erhöhen die Sicherheit am Arbeitsplatz

Edge Computing und künstliche Intelligenz haben enormes Potenzial für die Industrie und Wirtschaft: Richtig eingesetzt, können Betriebe Produktion und Prozesse effizienter gestalten und ihre Umsätze steigern. Doch gerade im Verbund erhöhen die Technologien auch den Schutz der Mitarbeiter.   Gerade in Industrieanlagen und Fertigungsbetrieben ist die Gefahr für die Mitarbeiter zuweilen extrem hoch. Natürlich kann…

Compliance-Checkliste: Rechtskonforme Arbeit mit Freelancern im In- und Ausland

Fehlende Fachkräfte, besonders in den Bereichen IT, aber auch bei Tätigkeiten der Technik und Technologie, bremsen laut ifo das Wachstum von über 50 Prozent der Unternehmen [i]. Daher entscheiden sich immer mehr Organisationen, ihre Teams durch Freelancer aus dem In- und Ausland zu verstärken. Allerdings sind sich viele Unternehmen nicht über die rechtlichen Voraussetzungen und…

Unternehmen sind (noch) nicht bereit, um generative KI erfolgreich einzuführen

Datensilos und Datenqualität sind (überwindbare) Herausforderungen, wenn IT-Teams weltweit ihre Data Stacks auf generative KI vorbereiten.   Eine neue Studie von Alteryx, der AI Platform for Enterprise Analytics, zeigt, dass Unternehmen aufgrund ihrer Daten noch nicht bereit sind, das Potenzial generativer künstlicher Intelligenz (KI) auszuschöpfen [1]. Die Ergebnisse der Studie »Data Stack Evolution: Legacy Challenges…

Mehr als Codegenerierung: wie KI in den gesamten Softwarelebenszyklus integriert werden kann

Interview mit Michel Isnard, VP Enterprise Sales, GitLab.   Jedes Team, das an der Entwicklung und Bereitstellung von Software beteiligt ist, steht vor der doppelten Herausforderung: Auf der einen Seite muss es schneller denn je eine sichere Software bereitstellen, die auch den Compliance-Anforderungen genügend. Auf der anderen Seite ist man gleichzeitig mit Zeit- und Ressourcenbeschränkungen…

Intelligente Fertigung: Deutsche Unternehmen setzen zunehmend auf KI

Der Report »State of Smart Manufacturing« von Rockwell Automation liefert wertvolle Einblicke in Trends, Herausforderungen und Pläne für Hersteller. Hierfür wurden mehr als 1.500 Unternehmen der Fertigungsindustrie aus 17 Ländern befragt, darunter Deutschland, das Vereinigte Königreich (UK), Frankreich, Italien und Spanien. Knapp über 100 der teilnehmenden Firmen kommen aus Deutschland (101).   Unter den vielen…

Betrug durch KI erreicht eine neue Dimension

Untersuchung zu Bankbetrug und Finanzdelikten in Europa zeigt Zunahme bei Social-Engineering-Attacken und Gerätediebstählen; Kriminelle verfeinern ihre Methoden und ihre Opferauswahl mithilfe künstlicher Intelligenz.   BioCatch, ein Experte für digitale Betrugserkennung und Schutz vor Finanzkriminalität durch Lösungen auf der Basis von Verhaltensbiometrie, hat eine neue Studie veröffentlicht, die aufzeigt, wie Kriminelle ihre Betrugsmethoden immer weiter verfeinern.…

Engpässe im Ressourcenmanagement mit KI vorhersagen

Es wirkt wie ein Blick in eine Glaskugel, wenn eine künstliche Intelligenz im Ressourcenmanagement eventuelle Ausfälle vorab prognostiziert oder bei Ausfällen direkt Lösungen parat hält. Tatsächlich steckt aber nichts Außergewöhnliches dahinter, denn die KI bedient sich für ihre Einschätzung lediglich vorhandener Daten und erlernter Arbeits- und Verhaltensweisen. Mit ihrer Hilfe wird so die Ressourcen- und…

Unternehmen im Dschungel der KI-Regularien: Konsequente Beachtung muss volle Aufmerksamkeit erhalten

  Zwischen KI-Innovationen und den regulatorischen Herausforderungen gibt es eine dynamische Schnittmenge, mit welcher sich Unternehmen aktuell konfrontiert sehen. Denn die Regierungen der unterschiedlichen Länder verfolgen keine einheitlichen Ansätze in der KI-Regulatorik. Für einen erfolgreichen Einsatz von künstlicher Intelligenz müssen global tätige Unternehmen daher die sich ändernden Regularien genau im Auge behalten und das nicht…

Verantwortung in der KI: Herausforderungen in der Ära fortschrittlicher Modelle

Ein Kommentar von Knar Hovakimyan, Responsible AI Lead und Engineering Manager bei Grammarly.   Die Möglichkeiten der künstlichen Intelligenz zur Erstellung von Inhalten sind im letzten Jahr rasant gestiegen. Doch der Akt des Schreibens ist nach wie vor unglaublich persönlich. Wenn KI eingesetzt wird, um Menschen bei der Kommunikation zu helfen, ist es wichtig, die…

Herausforderungen, ROI, Kosten & Co: Wie wird KI in Unternehmen wirklich eingesetzt?

Fivetran, der Anbieter für Data Movement, präsentiert die Ergebnisse einer Umfrage, die zeigt: 81 % der befragten Unternehmen vertrauen ihren KI/ML-Ergebnissen, obwohl sie zugeben, fundamentale Datenineffizienzen zu haben. Sie verlieren im Durchschnitt 6 % ihres weltweiten Jahresumsatzes, beziehungsweise 406 Millionen US-Dollar bei einem durchschnittlichen Jahresumsatz von 5,6 Milliarden US-Dollar der befragten Unternehmen. Die Ursache sind…

Implementierung generativer KI: Anwender warten ab

In aller Munde, nicht aber in den Köpfen – so könnte man die aktuelle Situation in Unternehmen beschreiben, geht es um das Thema KI: Während spezialisierte KI-Dienstleister beharrlich die vielfältigen Möglichkeiten hervorheben, bleiben Anwender skeptisch. Viele Kunden haben keine genaue Vorstellung davon, welche konkreten Vorteile für den Unternehmensbetrieb erwachsen. Aber auch fehlende Daten für aussagekräftige…

Gener-AI-tion KI: Büroangestellte nutzen generative AI häufiger (als gedacht)

Während viel über die Zukunft der künstlichen Intelligenz (KI) diskutiert wird, etwa ob durch ihren Einsatz künftig Arbeitsplätze wegfallen werden, zeichnet sich in der deutschen Arbeitswelt bereits ein deutlicher Trend ab. So hat eine Studie von Veritas Technologies ergeben, dass bereits mehr als die Hälfte (57 Prozent) der befragten deutschen Büroangestellten generative KI mindestens einmal…

Cashflow und Debitorenbuchhaltung mit Prozessintelligenz und KI optimieren

Celonis stellt Sailfin Accounts Receivable App Suite vor.   Celonis, das weltweit führende Unternehmen im Bereich Process Mining, stellt die neue Sailfin Accounts Receivable (AR) App Suite vor. Diese wurde in Zusammenarbeit mit Sailfin Technologies entwickelt, welches von Celonis übernommen wurde. Die neuen Apps unterstützen Accounts-Receivable-Teams dabei, effizient zu arbeiten und Abläufe in der Debitorenbuchhaltung…

Security First: DevSecOps durch KI und Cloud vorantreiben

Cloud Computing ist wie das Thema künstliche Intelligenz allgegenwärtig. Auch im Kontext der DevSecOps-Methodik spielen beide Technologien eine gewichtige Rolle. Wie können sie Teams unterstützen und worauf müssen Entwickler und Administratoren achten.   DevSecOps-Teams sind mit den richtigen Methoden und dem richtigen Mindset in der Lage, einen »Security-First-Ansatz« zu verfolgen, bei dem die Frage nach…