Lakera lanciert Absicherung für generative KI in Firmen

Lakera hat eine KI-basierte Bedrohungsintelligenz (Threat Intelligence) namens Lakera Guard auf den Markt gebracht, die das 2021 gegründete Zürcher Unternehmen für KI-Sicherheit in einer Medienmitteilung als „die weltweit fortschrittlichste“ bezeichnet. Damit können Entwicklerinnen und Entwickler die generativen KI-Anwendungen, die sie kreieren, umgehend gegen Cyber-Bedrohungen absichern.

Dabei geht es um grosse Sprachmodelle (Large Language Models, LLM), also eine Art Deep Learning-Algorithmus, der Text menschenähnlich verarbeitet. Sie haben erhebliche Auswirkungen auf Anwendungsbereiche wie die Erstellung von Inhalten für Internetseiten und Produkte, Chatbots und virtuelle Assistenten, Datenanalyse und Kundensupport.

Lakera Guard stützt sich den Angaben zufolge auf eine proprietäre Datenbank, die Crowdsourcing-Daten aus Gandalf, dem viralen KI-Lernspiel von Lakera, mit Open-Source-Datenbanken und eigener Forschung kombiniert. Die Datenbank von Lakera hat fast 30 Millionen Angriffsdatenpunkte gesammelt und wächst täglich um mehr als 100'000 Einträge. Lakera Guard ermöglicht es, diese Schwachstellendaten mit einer einzigen Codezeile zu aktivieren und so sofort während der Produktion eine Sicherheitsschicht in KI-Anwendungen einzubetten.

„KI birgt Sicherheitsrisiken, wie wir sie noch nie zuvor gesehen haben“, wird Harald Nieder von Lakeras Hauptinvestor Redalpine zitiert. „Lakera ist eines der erfahrensten Teams im Bereich KI und verfügt über einen grossen Schatz an Schwachstellendaten. Ihr an Entwicklerinnen und Entwickler gerichteter Ansatz ist in allen Unternehmen das fehlende Bindeglied für den sicheren Einsatz von KI-Modellen.“ ce/mm