Tech-CEOs nennen die Top 8 KI-Trends 2024

Allein 2023 war ein herausragendes Jahr für generative KI: GPT-4, GPT-4V, Google Bard, PaLM 2 und Google Gemini wurden alle in diesem Jahr als Teil eines sich schnell entwickelnden Wettrüstens zur Automatisierung allt?glicher Arbeitsabl?ufe eingeführt.

Für weitere Einblicke in die Zukunft hat Techopedia führende CEOs aus dem Bereich der Unternehmenstechnologie befragt, welche Auswirkungen KI ihrer Ansicht nach 2024 auf Betriebe haben wird und welche KI-Trends sich bereits abzeichnen.

Die folgenden Kommentare wurden zwecks Knappheit und Klarheit überarbeitet.

Der Aufstieg von KI-gestützter Malware

Schon bald werden wir das Aufkommen von generativer, KI-gestützter Malware erleben, die im Wesentlichen selbstst?ndig denken und handeln kann.

Eine solche Bedrohung, die die USA mit besonderer Sorge betrachten sollten, geht von nationalstaatlichen Gegnern aus.

Wir werden sehen, dass Angriffsmuster immer polymorpher werden, d. h. die künstliche Intelligenz (KI) wertet die Zielumgebung sorgf?ltig aus und denkt dann selbstst?ndig nach, um die ultimative Lücke im Netzwerk oder den besten Bereich zum Ausnutzen zu finden und entsprechend zu ver?ndern.

Statt dass ein Mensch den Code knackt, wird es selbstlernende Systeme geben, die auf der Grundlage von Ver?nderungen in ihrer Umgebung erkennen, wie sie Schwachstellen ausnutzen k?nnen.

Patrick Harr, CEO von SlashNext?

Passkey-Annahme wird st?rker

Der KI-Boom hat eine Schattenseite, die nur wenigen Verbrauchern oder Unternehmen bewusst ist: Cyberkriminelle k?nnen nun ihre Phishing-Angriffe glaubwürdiger, h?ufiger und raffinierter gestalten, indem sie die Leistung generativer KI wie WormGPT nutzen.

Mit Blick auf das Jahr 2024 wird diese Bedrohung an Umfang und Ausma? zunehmen.?

Vor diesem Hintergrund wird der Wendepunkt für die massenhafte Einführung von Passkeys erreicht sein (auch wenn es noch eine betr?chtliche übergangszeit bis zu einer wirklich passwortlosen Zukunft geben wird).

Im vergangenen Jahr wurden Passkeys plattformübergreifend immer h?ufiger eingesetzt, und Big Tech – von Google bis Amazon – hat verschiedene Stufen der Passkey-Unterstützung eingeführt.

Passkeys werden jedoch letztendlich die Passw?rter als Status quo-Technologie abl?sen, sobald die Konsequenzen der Nichtverwendung einer sichereren, Phishing-resistenten Form der Authentifizierung im Zuge der zunehmend sch?dlichen und kostspieligen Cyberangriffe deutlich werden.

John Bennett, CEO von Dashlane?

Zus?tzliche Schutzma?nahmen für KI-Modelle

Sicherheit und Datenschutz müssen für jedes Technologieunternehmen ein Hauptanliegen bleiben, unabh?ngig davon, ob es sich auf KI konzentriert oder nicht.

Wenn es um KI geht, ist es von entscheidender Bedeutung, dass das Modell über die notwendigen Sicherheitsvorkehrungen, eine Feedbackschleife und vor allem einen Mechanismus zum Aufzeigen von Sicherheitsbedenken verfügt.

Da Unternehmen im Jahr 2024 die Vorteile von KI in Bezug auf Effizienz, Produktivit?t und Demokratisierung von Daten immer schneller nutzen werden, muss sichergestellt werden, dass bei der Identifizierung von Problemen ein Meldemechanismus vorhanden ist, der diese aufdeckt, so wie eine Sicherheitslücke erkannt und angezeigt wird.

David Gerry, CEO von Bugcrowd?

LLMs werden die Cloud-Sicherheit umgestalten

2024 wird die Entwicklung der generativen KI (GenAI) und der gro?en Sprachmodelle (Large Language Models, LLM), die 2023 eingeleitet wurde, die Cybersicherheitskette neu definieren, die Effizienz steigern und die Abh?ngigkeit von Arbeitskr?ften in der Cloud-Security minimieren.

Ein Beispiel sind durch LLMs verst?rkte Erkennungstools. LLMs werden die Protokollanalyse erweitern und eine frühzeitige, genaue und umfassende Erkennung von bekannten und schwer fassbaren Zero-Day-Angriffen erm?glichen.

Die analytischen F?higkeiten von LLMs werden subtile, komplizierte Muster und Anomalien aufdecken, was die Identifizierung und Abschw?chung komplexer Bedrohungen sowie die Verbesserung der allgemeinen Sicherheitslage gew?hrleistet.

GenAI wird die Raffinesse sowohl von Cyberangriffen als auch von Verteidigungsmechanismen erh?hen, was innovative Strategien voraussetzt und die Schaffung flexibler, reaktionsf?higer Sicherheitsrahmen f?rdert.

Die Verschmelzung von KI und LLM wird die Sicherheitsabl?ufe und -protokolle rationalisieren.

Dadurch k?nnen sich die Fachleute auf strategische Analysen und Innovationen konzentrieren und eine robuste Erkennung und Bek?mpfung von Bedrohungen gew?hrleisten, was die Integrit?t, Vertraulichkeit und Verfügbarkeit von Informationen in der Cloud st?rken wird.

Chen Burshan, CEO von Skyhawk Security?

?Risikoreduzierung“ bei der Datensicherheit wird immer besser

Das Konzept der ?Risikominderung“ im Bereich der Datensicherheit wird sich in den n?chsten Jahren im Einklang mit dem zunehmenden Einsatz von Technologien der generativen KI weiterentwickeln.

Bis vor kurzem haben Unternehmen Richtlinien zur Datenaufbewahrung und -l?schung zur Gew?hrleistung eines minimalen Risikos für ihre Assets eingeführt.

In dem Ma?e, in dem die M?glichkeiten der GenAI für Unternehmen an Bedeutung gewinnen, wird die Motivation steigen, Daten so lange wie m?glich zu speichern, um sie für das Training und Testen dieser neuen F?higkeiten zu nutzen.

Daher wird es für Datensicherheitsteams nicht mehr m?glich sein, Risiken durch das L?schen unn?tiger Daten zu bek?mpfen, da der neue Gesch?ftsansatz darin besteht, dass alle Daten irgendwann einmal ben?tigt werden k?nnen.

Liat Hayun, CEO und Mitbegründerin von Eureka Security

Erosion des Vertrauens in KI-Entscheidungsprozesse

In einer sich schnell entwickelnden Technologielandschaft sind die Parallelen zwischen der Einführung von Cloud-Diensten und dem aktuellen Anstieg der Implementierung von künstlicher Intelligenz sowohl auff?llig als auch warnend.

So wie Unternehmen Cloud-L?sungen wegen ihres Innovationspotenzials eifrig angenommen haben, hat die Eile der Integration die Entwicklung robuster Sicherheitskontrollen und Compliance-Tools überholt.

Infolgedessen entstanden Schwachstellen, die von b?swilligen Akteuren schnell ausgenutzt werden konnten, wodurch Unternehmen mit unvorhergesehenen Herausforderungen konfrontiert wurden.

Da wir eine ?hnliche Entwicklung bei der Einführung von KI-Technologien beobachten, ist es zwingend erforderlich, Lehren aus der Vergangenheit zu ziehen und sich proaktiv mit den drohenden Problemen zu befassen.

Die rasche Integration von KI in verschiedene Bereiche des Gesch?ftsbetriebs ist unbestreitbar transformativ. Doch der Mangel an umfassender Transparenz und Unternehmenskontrolle gibt Anlass zu Bedenken.

?hnlich wie in den Anf?ngen der Cloud-Einführung betreten Unternehmen mit KI Neuland, oft ohne die notwendigen Sicherheitsvorkehrungen zu treffen.

Die Folgen unzureichender Ma?nahmen sind zweierlei: erstens ein erh?htes Risiko von Sicherheitsverletzungen und zweitens ein potenzieller Vertrauensverlust, da Stakeholder die ethischen Implikationen und die Transparenz von KI-Entscheidungen in Frage stellen.

Varun Badhwar, CEO und Mitbegründer von Endor Labs

Entwickler werden effizienter sein

Dies ist ein zweigleisiges Thema, über das die Führungskr?fte im Jahr 2024 wirklich nachdenken müssen. Einerseits müssen CISOS- und IT-Verantwortliche sich Gedanken darüber machen, wie wir den Quellcode sicher in unsere eigenen ?K?nigreiche“ innerhalb des Tuner-Rise einspeisen k?nnen.

Mit Tools wie Copilot und ChatGPT werden Entwickler und Unternehmen viel effizienter arbeiten k?nnen. Dies birgt jedoch auch mehr Risiken in Bezug auf potenzielle Schwachstellen, die uns Sorgen bereiten sollten.

Auf der anderen Seite müssen wir darüber nachdenken, wie Anbieter von Anwendungssicherheitsl?sungen es CISOS und IT-Führungskr?ften erm?glichen, generative KI in ihren Tools für eine effizientere Ausführung ihrer Programme zu nutzen und die Produktivit?t in Bezug auf den Einsatz von KI zur Beschleunigung von Sicherheitsergebnissen zu steigern.

Dazu geh?ren z. B. die Erstellung von Sicherheitsrichtlinien, die Identifizierung von Mustern und Anomalien, das schnellere Auffinden und die Priorisierung von Schwachstellen sowie die Unterstützung bei der Reaktion auf Vorf?lle.

Lior Levy, CEO und Mitbegründer von Cycode?

Videogenerierung wird zum Mainstream

Im vergangenen Jahr wurden Videogenerierungsmodelle (Text-zu-Video, Bild-zu-Video, Video-zu-Video) zum ersten Mal ?ffentlich zug?nglich.

2024 werden sich Qualit?t, Allgemeinheit und Kontrollierbarkeit dieser Modelle weiter rapide verbessern. Zum Jahresende wird ein betr?chtlicher Prozentsatz der Videoinhalte im Internet in irgendeiner Form auf sie zurückgreifen.

Da gro?e Modelle immer schneller umgebaut werden k?nnen und man strukturiertere M?glichkeiten zu ihrer Steuerung entwickelt, werden auch immer mehr neuartige Schnittstellen und Produkte entstehen, die über die Standard-Prompt-to-X- oder Chat-Assistenten-Paradigmen hinausgehen.

Im vergangenen Jahr lag der Schwerpunkt der Diskussionen auf den F?higkeiten einzelner Netzwerke, die durchg?ngig trainiert werden.

In der Praxis werden KI-Systeme jedoch in der Regel von einer Pipeline von Modellen angetrieben, die in realen Umgebungen eingesetzt werden. Und es werden mehr Frameworks für den Aufbau modularer KI-Systeme erscheinen.

Au?erdem wird KI die Forschung vorantreiben – w?hrend LLM-Code-Assistenten wie Copilot viel Zuspruch erhalten haben, gab es bisher nicht viele Tools, die speziell auf die Beschleunigung von KI-Forschungsabl?ufen abzielen, z. B. bei der Automatisierung eines Gro?teils der sich wiederholenden Aufgaben, die mit der Entwicklung/Debugging von Modellcode, dem Training und der Auswertung von Modellen usw. verbunden sind.

Im kommenden Jahr werden wahrscheinlich mehr solcher Tools auf den Markt kommen.

Anastasis Germanidis, CTO und Mitbegründer von Runway

Fazit

Wenn sich auch nur einige der Top-KI-Trends dieses Gremiums bewahrheiten, stehen uns in den n?chsten 12 Monaten interessante Zeiten und eine transformative Phase für Unternehmen und Einzelpersonen bevor.

W?hrend sich Organisationen noch mit den Sicherheitsbedenken von KI-generierter Malware und Phishing-Versuchen auseinandersetzen müssen, gibt es für Mitarbeiter und Stakeholder viele M?glichkeiten, Arbeitsabl?ufe zu automatisieren und im Jahr 2024 einen Mehrwert zu schaffen.