DevSecOps-Teams zweifeln an der Sicherheit von KI-generiertem Code

foto freepik ki

Die Umfrage analysiert das »Tauziehen«, das KI-gestützte Codierungstools im Software-Entwicklungsprozess hervorrufen.

 

Der Bericht »Global State of DevSecOps 2024« von Black Duck Software, Inc. (»Black Duck«) analysiert Trends, Herausforderungen und Chancen, die sich auf die Software-Sicherheit auswirken. Die Daten belegen, dass der umfassende Einsatz von KI die Art und Weise, wie Software entwickelt wird, grundlegend verändert – und zwar von der Idee bis zur Bereitstellung. Nahezu alle Teilnehmer der Umfrage, nämlich über 90 %, nutzen in irgendeiner Form KI innerhalb ihres Softwareentwicklungsprozesses. Dies zeigt, wie wichtig es für Unternehmen ist, über den gesamten Entwicklungslebenszyklus hinweg die richtigen Sicherheitsmaßnahmen zu ergreifen. Dennoch haben 67 % der Befragten Bedenken, was die Sicherheit von KI-generiertem Code angeht.

Unterschiedlichste Branchen wie die Bereiche Technologie, Cybersicherheit, Fintech, Bildung, Banken/Finanzen, Gesundheitswesen, Medien, Versicherungen, Transport und Versorgungsunternehmen vermelden ähnlich hohe Werte bei der Akzeptanz von KI. Das unterstreicht, wie bedeutsam nahtlos ineinandergreifende Sicherheitsmechanismen sind. Im Non-Profit-Sektor, der aufgrund begrenzter Ressourcen traditionell eher verzögert auf technologische Fortschritte reagiert, nutzt mindestens die Hälfte der befragten Organisationen KI. Wenig überraschend ist die Tatsache, dass je größer ein Unternehmen ist, desto höher auch die Wahrscheinlichkeit, dass es KI in irgendeiner Form bei der Softwareentwicklung einsetzt.

»KI ist eine wegweisende Technologie, in die man investieren sollte, statt sie zu fürchten. Jedenfalls solange man die richtigen Leitplanken einzieht«, bekräftigt Jason Schmitt, CEO von Black Duck. »Für DevSecOps-Teams gilt es, KI sinnvoll in den Softwareentwicklungsprozess zu implementieren und gleichzeitig die richtige Governance-Strategie zu verfolgen, um Leib und Seele eines Unternehmens – nämlich seine Daten – zu schützen.«

Der aktuelle Bericht von Black Duck basiert auf einer von Censuswide durchgeführten Umfrage, bei der über 1.000 IT-Experten weltweit befragt wurden. Darunter Softwareentwickler, AppSec-Experten, CISOs und DevOps-Ingenieure aus verschiedenen Ländern und Branchen. Zu den wichtigsten Ergebnissen des Berichts zählen:

  • KI ist mittlerweile Standard, aber Sicherheitsexperten sind noch nicht ganz überzeugt.
    Eine große Mehrheit (85 %) der Befragten hat zumindest einige Maßnahmen ergriffen, um den Herausforderungen aufgrund von KI-generierten Code zu begegnen. Zu diesen zählen beispielsweise potenzielle IP-, Urheberrechts- und Lizenzprobleme, die KI-Tools in proprietäre Software einbringen können. Allerdings ist weniger als ein Viertel der Befragten (24 %) tatsächlich »sehr zuversichtlich«, was die eigenen Richtlinien und Verfahren zum Testen dieses Codes anbelangt.
  • Sicherheit beeinträchtigt immer noch die Geschwindigkeit.
    Mehr als die Hälfte der Befragten (61 %) konstatiert, dass Sicherheitstests die Entwicklung mäßig oder sogar stark verlangsamen. Fünfzig Prozent der Befragten, die dieser Meinung sind, räumen außerdem ein, dass die meisten Projekte immer noch manuell hinzugefügt werden.
  • Die Vielzahl der genutzten Tools führt zu einem hohen Maß an Test-Inkonsistenzen.
    Sage und schreibe 82 % der Unternehmen verwenden zwischen 6 und 20 unterschiedliche Sicherheitstest-Tools. Das erschwert es, die Ergebnisse über Plattformen und Pipelines hinweg effektiv zu integrieren und zu korrelieren – was wiederum dazu führt, dass sich echte Probleme von Fehlalarmen oft nur mühsam unterscheiden lassen.

 

Wenn Sie mehr erfahren möchten, steht Ihnen der Global State of DevSecOps-Bericht hier zum Herunterladen zur Verfügung. https://www.blackduck.com/resources/analyst-reports/state-of-devsecops.html?cmp=pr-sig
Lesen Sie weiter im ausführlichen Blog-Beitrag https://www.blackduck.com/blog/black-duck-devsecops-report.html?cmp=pr-sig

 

1607 Artikel zu „KI Code Sicherheit“

KI-gestützte Chatbot-Assistenten für Knowledge Worker

KI-gesteuerte virtuelle Assistenten sind bereits für ein Fünftel der Knowledge Worker weltweit die Tools, die sie am häufigsten einsetzen. ChatGPT dabei häufiger genutzt als Slack.   Mehr als einer von fünf Knowledge Workern weltweit (23 Prozent) setzt inzwischen auf KI-Assistenten der nächsten Generation als meistgenutztes Arbeitsmittel bzw. meistgenutzte Anwendung, so eine Umfrage von The Adaptavist…

Gravierende Mängel in der industriellen Cybersicherheit

Fast die Hälfte der Befragten hält die aktuellen Schutzmaßnahmen der Wirtschaft vor Cyberangriffen für unzureichend. Fast ein Drittel kennt die relevanten Standards und Vorschriften nicht.   Bei einer aktuellen Befragung von IT-Verantwortlichen aus der deutschen Industrie zeigte sich nicht einmal die Hälfte (46 Prozent) davon überzeugt, dass die Wirtschaft ausreichend vor Cyberangriffen geschützt ist. Weniger…

KI im Kundenservice: 55 % verwenden bereits KI-Funktionen

Künstliche Intelligenz (KI) zeigt enormes Potenzial in der Kundenberatung. Beispielsweise lassen sich automatisch über Chatbots oder Sprachassistenten beantworten, und KI kann personalisierte Empfehlungen für Produkte und Dienstleistungen erstellen sowie ganze Prozesse im Kundenservice automatisieren. So können insbesondere unerfahrene Mitarbeiter schneller effizient eingesetzt werden. Doch oftmals wird mangelnde Empathie oder Kontextverständnis in ungewöhnlichen Situationen kritisiert. Die…

Potenziale und Grenzen der KI: Aktuelle und zukünftige Anwendungsfälle

Die Transformation in Unternehmen, die durch die Potenziale der künstlichen Intelligenz ermöglicht wird, stellt eine der zentralen Herausforderungen und Chancen der Zukunft dar. Die Schlüsseltechnologie der KI bietet erhebliche Wertschöpfungspotenziale, die durch die rasanten Fortschritte im Bereich der Large Language Models (LLMs) verstärkt werden. Diese Entwicklungen führen zu einer grundlegenden Disruption der bisherigen Ansätze im…

7 von 10 Unternehmen wollen generative KI für Sicherheit und IT-Business-Alignment einsetzen

Tenable Studie: 71 Prozent der deutschen Unternehmen planen Einsatz von generativer KI, um Sicherheitsmaßnahmen zu verbessern und IT-Ziele und Business in Einklang zu bringen. In puncto Implementierung sind allerdings nur 17 Prozent zuversichtlich.   Laut einer Studie von Tenable, dem Unternehmen für Exposure-Management, planen 71 Prozent der deutschen Unternehmen in den nächsten 12 Monaten den…

Tenable stellt AI Aware vor: Eine bahnbrechende Lösung für proaktive Sicherheit von KI und Large Language Models (LLMs)

Tenable, das Unternehmen für Exposure-Management, gab die Veröffentlichung von AI Aware bekannt, einer hochentwickelten Erkennungsfunktion, die schnell feststellen kann, ob Lösungen für künstliche Intelligenz im Einsatz sind und ob KI-bezogene Schwachstellen und Sicherheitsschwächen vorliegen. Die Funktion ist ab sofort in Tenable Vulnerability Management, der weltweit führenden Lösung für Exposure-Management, verfügbar [1]. Tenable AI Aware liefert…

Vom Suchen und Finden im Datendschungel – warum KI und Search zusammengehören

ChatGPT hat innerhalb weniger Monate nach seiner Einführung mehr als 100 Millionen Nutzer erreicht. Seitdem ist generative KI (GenAI) immer häufiger in bereits vertraute Tools zur Bildbearbeitung oder zum Schreiben von Texten integriert. Nach dieser Anfangsphase suchen nun auch Führungskräfte Möglichkeiten, GenAI umfassend in ihrem Unternehmen zu nutzen – und das nicht nur als einfaches…

Die Deutschen und finanzielle Nachhaltigkeit: Sicherheit in unsicheren Zeiten?

Das Gefühl finanzieller Stabilität und Sicherheit ist für viele Menschen durch hohe Inflation, Zinserhöhungen durch Zentralbanken und wirtschaftliche Unsicherheit gestört. Deshalb werden Konsumenten vorsichtiger, wenn es um die Verwaltung ihrer Finanzen und die Nutzung diverser Zahlungsmethoden geht. Das Schlagwort finanzielle Nachhaltigkeit rückt in den Mittelpunkt. Eine aktuelle Umfrage des Finanzdienstleisters Riverty hat jeweils circa 1.500…

Zentralisiertes Sicherheitsmanagement kann Frachtdiebstähle reduzieren

Moderne Kontroll- und Zutrittsmanagement Lösungen bieten umfassenden Schutz. Laut der Arbeitsgemeinschaft Diebstahlprävention in Güterverkehr und Logistik und dem Gesamtverband der deutschen Versicherungswirtschaft (GDV) werden in Deutschland pro Jahr die Ladungen von rund 26.000 Lkws gestohlen. Dabei beträgt der direkte Warenschaden durch solche Frachtdiebstähle 1,3 Mrd. €. Dazu kommen weitere Schäden durch Konventionalstrafen für Lieferverzögerungen, Reparaturkosten…

KMUs (noch) zurückhaltend beim KI-Einsatz

Der Mittelstand verspricht sich vom KI-Einsatz insbesondere mehr Innovationstärke (26 Prozent) sowie zufriedenere Kunden (23 Prozent). Die Hälfte der Kleinunternehmen setzt künstliche Intelligenz (KI) nicht ein, und plant dies auch nicht.   Künstliche Intelligenz (KI) ist eine der wichtigsten Schlüsseltechnologien für die digitale Transformation von Wirtschaft und Industrie. Doch bei vielen deutschen Unternehmen steckt der…

Apple WWDC – neue Funktionen, verbesserte Sicherheit und neue Fragen

Mit Spannung erwarten IT-Expertinnen, IT-Experten und Apple-Fans in jedem Jahr die Worldwide Developers Conference von Apple. Spekuliert wurde, ob Apple 2024 die eigenen KI-Pläne lüften wird. Schließlich haben Microsoft & Co. sich längst dazu positioniert. Nun war es tatsächlich so weit: Auf der WWDC 2024 folgte die Antwort von Apple. KI war jedoch nicht das…

Hinter den Kulissen: Wie IT-Profis KI-Washing erkennen können

Die Vorteile der generativen KI sind in den letzten Jahren immer deutlicher geworden. Unternehmen erzielten nicht nur wertvolle Produktivitäts- und Effizienzsteigerungen, sie verbesserten auch die Arbeitsmoral, indem sie den Zeitaufwand für einfache Aufgaben reduzierten. Allerdings verschwimmen die Grenzen zwischen den Unternehmen, die echte KI-Lösungen anbieten, und denen, die sich lediglich als solche vermarkten, immer mehr.…

Cybersicherheit: Werden Versicherungsprämien gegen Cyberkriminalität unbezahlbar?

Der Markt für Cyberversicherungen hat sich in den letzten Jahren teils drastisch verändert. Die steigenden Ausgaben aufgrund von Cyberkriminalität setzen Versicherungsnehmer und Versicherer gleichermaßen unter Druck. Laut jüngster Prognosen belaufen sich diese Ausgaben weltweit voraussichtlich innerhalb der nächsten vier Jahre auf schwindelerregende 23,8 Billionen Dollar [1]. Eine der Folgen ist, dass Versicherer künftig vor Rentabilitätsproblemen stehen…

Mit No-Code-Plattform digitales Transformationsvorhaben realisieren – Zugang zu Technologie demokratisieren

Tim Srock, ehemaliger CEO der Siemens-Tochter und Low-Code Plattform Mendix, ist seit März CEO der Lobster-Gruppe mit Hauptsitz in Tutzing bei ­München. Mit dem international erfahrenen CEO setzt das Unternehmen seine Wachstums- und Expansions­strategie fort. Mehr als 2.000 Unternehmen aller Wirtschaftszweige arbeiten mit den Softwarelösungen von Lobster, das neben der DACH-Region auch in Frankreich, UK, Benelux und Skandinavien operiert.

Fachkräftemangel – KI und Automatisierung bieten eine Lösung: Fehlen IT-Spezialisten – fehlen Umsätze

Der akute Mangel an IT-Fachkräften stellt Deutschland vor erhebliche Herausforderungen. Trotz der fortschreitenden Digitalisierung und der  wachsenden Bedeutung von IT-Sicherheit sinkt das Interesse an Informatikstudiengängen seit einigen Jahren kontinuierlich, was die Diskrepanz zwischen Angebot und Nachfrage weiter verschärft [1]. Diese Entwicklung gefährdet nicht nur die Innovationskraft, sondern auch die Wettbewerbsfähigkeit der deutschen Wirtschaft und birgt das Risiko, die dringend benötigte digitale Transformation auszubremsen [2].

Nachhaltigkeit als zentraler Aspekt – Die Zukunft der KI-Infrastruktur wird wahrscheinlich ein Hybridmodell sein

Supermicro bringt Innovationen für die IT-Infrastruktur in den Bereichen Enterprise, Cloud, KI, Metaverse und 5G Telco/Edge oft als Erster auf den Markt. Der Anbieter von IT-Gesamtlösungen im Rack-Scale-Format achtet besonders auf ein umweltfreundliches und energiesparendes Portfolio von Servern, Speichersystemen, Switches und Software. Wir sprachen mit Thomas Jorgensen, Senior Director Technology Enablement bei Supermicro über die Entwicklung und die Marktposition, den KI-Trend und die speziellen Anforderungen an die Infrastruktur, über Nachhaltigkeit, Flüssigkühlungslösungen und die Zukunft von Rechenzentren.

Vorteile von KI, intelligenten Prozessen und menschlichen Fähigkeiten kombinieren – Mit KI-gestützten Projektmanagement-Anwendungen schneller, flexibler und sicherer zum Erfolg

Unternehmen setzen Projekte in erster Linie um, weil sie einen wirtschaftlichen Nutzen erfüllen sollen. Durch den Einsatz von KI-gestützten Tools, Anwendungen und Lösungen können sie dazu beitragen, eine immer komplexer werdende Projektlandschaft beziehungsweise Projektportfolios effektiver zu steuern und Ergebnisse schneller zu erzielen. In der Praxis kann KI helfen, bessere Entscheidungen zu treffen und Prognosen abzugeben, die Projektplanung mit generativer KI zu beschleunigen, Risiken zu verringern sowie Ressourcen zur rechten Zeit für die wichtigsten Aufgaben im Portfolio einzusetzen. Am erfolgsträchtigsten erweist sich dabei die richtige Mischung aus intelligenten Prozessen, Technikeinsatz und menschlicher Kreativität.

SAP Fiori Apps Monitoring: Fehler identifizieren und Sicherheitslücken schließen

SAP Fiori Apps sollen den Zugang zu und den Umgang mit SAP deutlich vereinfachen und so Effizienz und Produktivität erhöhen. Doch nicht immer funktionieren sie einwandfrei – natürlich kommt es im Alltag zu Abstürzen, Downtimes, Fehlern und Sicherheitsproblemen. Nun stellen gerade bei komplexen Integrationen die Suche nach den Ursachen, die Fehlerbehebung und die Verbesserung der…