Zürich – Der EU AI Act zur Regulierung Künstlicher Intelligenz (KI) in der Europäischen Union wird sich überwiegend positiv auf den Einsatz von KI-Systemen auswirken. Diese Einschätzung vertritt die Schweizer Spitch AG, einer der führenden Anbieter von Conversational AI mit zahlreichen Firmenkunden innerhalb der EU.
Dennoch empfiehlt Spitch Unternehmen und Behörden, die eigenen KI-Anwendungen unter den neuen Risikoaspekten der EU-Regulierung unter die Lupe zu nehmen und gegebenenfalls Anpassungen vorzunehmen. Zudem wird es nach Einschätzung des Schweizer Anbieters erforderlich sein, die KI-Anwendungen künftig „von Zeit zu Zeit“ erneut auf ihre Übereinstimmung mit den gesetzlichen Anforderungen hin zu überprüfen. Der Grund: Der Anbieter von Conversational AI erwartet, dass der AI Act in Zukunft von europäischen Standardisierungsgremien weiterentwickelt und präzisiert wird. Die dadurch entstehenden Änderungen müssten beim Einsatz von KI-Systemen Berücksichtigung finden, heisst es bei Spitch.
Die Spitch AG hat eine ausführliche Information über mögliche Auswirkungen des EU AI Act auf den Einsatz ihrer Systeme veröffentlicht unter: https://spitch.ai/eu_ai_act_changes_implications_help/
Risikoanalyse je nach Anwendung und Einsatzgebiet
Keines der heutigen üblichen und typischen Einsatzgebiete für Sprach- und Textdialogsysteme auf KI-Basis (Conversational AI) im Kundenservice fällt nach Einschätzung von Spitch per se unter die von der EU aufgestellten Risikokategorien für KI-Systeme. Das gelte auch für den Einsatz biometrischer Identifizierungsverfahren, um etwa während eines Anrufs anhand der Stimme die Identität des Gesprächspartners zu verifizieren.
Allerdings gibt es auch Anwendungen und Einsatzgebiete für Conversational AI wie Chatbots, Sprachanalysen oder Wissensdatenbanken, die unter Umständen in die Kategorien „begrenztes Risiko“ oder „minimales Risiko“ fallen könnten. Das gilt beispielsweise auch für biometrische Verfahren, sofern die Systeme in der Lage sind, Emotionen anhand von Sprache zu detektieren und daraus Schlussfolgerungen beispielsweise zur Kategorisierung von Anrufern abzuleiten.
Umfassendes Programm zur technischen und rechtlichen Unterstützung der Kundschaft in der EU – Rechtsberatung durch Anwälte
Die Spitch AG bietet ihren Kunden Beratungsdienstleistungen an, um eine rechtzeitige und vollständige Compliance des KI-Einsatzes mit dem EU AI Act und anderen regulatorischen Anforderungen wie der GDPR (General Data Protection Regulation) bzw. der Datenschutz-Grundverordnung (DSGVO) zu gewährleisten. Dabei helfen die Spitch-Anwälte Firmenkunden auch bei der Formulierung gesetzeskonformer Vereinbarungen mit deren Kunden. In allen Fällen erfolgt die Beratung anhand der spezifischen Gesetzgebung jedes Landes, in dem die KI-Systeme zum Einsatz gelangen.
Anpassung innerhalb von zwölf bis 36 Monaten
Für die meisten Einsatzgebiete von Conversational AI müssen die zusätzlichen Anforderungen nach Inkrafttreten des AI Act im Mai 2024 innerhalb von zwölf bis 36 Monaten erfüllt werden. Spitch versichert, dafür Sorge zu tragen, dass in dieser Frist alle Anforderungen an die Anbieter der KI-Systeme von der eigenen Produktpalette erfüllt werden.
Insbesondere wird Spitch sicherstellen, dass alle Lösungen, die Stimmbiometrie in Echtzeit, Stimmungsanalyse und Emotionserkennung verwenden, die sich auf GPT-4 oder andere KI-Modelle zur Zusammenfassung und Kategorisierung beziehen, sowie die im EU AI Act als „mit begrenztem Risiko“ eingestuften Systeme, wie virtuelle Assistenten (KI-Chatbots), innerhalb der vorgeschriebenen Fristen vollständig konform sein werden. Es gibt keine Bestimmungen des EU AI Act, die es unmöglich oder zu riskant machen würden, die von Spitch angebotenen KI-Lösungen zu nutzen, stellt das Unternehmen klar. (Spitch/mc/ps)
