Telefon-KI und KI-Assistenz im Betrieb: was heute schon geht und wo die Grenzen liegen

Ratgeber · KI-Assistenz am Telefon

Von Sebastian Meiners, Geschäftsführer der m.i.b GmbH

Für viele Betriebe ist das Telefon erfahrungsgemäß noch immer der Weg, auf dem Aufträge, Terminwünsche und Beschwerden ankommen. Assistenzsysteme mit künstlicher Intelligenz können Anrufe annehmen, Fragen aus hinterlegten Angaben beantworten und Rückrufbitten notieren. Ob das trägt, entscheiden weniger Technik als Regeln: wer welche Pflicht hat, was Anrufende erfahren, was mit den Gesprächsdaten geschieht und wo ein Mensch übernimmt. Der Ratgeber ordnet diese Fragen branchenübergreifend, mit Fundstellen.

Tischtelefon und leerer Notizblock auf einer Holztheke, dahinter zwei Personen von hinten in einer Werkstatt mit Regalen
Symbolbild (KI-generiert). Das Telefon klingelt auch dann, wenn niemand die Hände frei hat. Ob eine KI-Assistenz sie annehmen soll, ist zuerst eine Frage der Regeln.

Das Telefon bleibt ein Massenkanal, die Technik dahinter ändert sich

Klassische Telefonie verliert an Volumen, ohne zu verschwinden. Über Festnetze wurden 2025 in Deutschland 47 Mrd. Minuten abgehend telefoniert, 18 Prozent weniger als im Vorjahr mit 57 Mrd. [1]. Über Mobilfunknetze waren es im Inland 131,6 Mrd. Minuten, rund 102 Minuten im Monat je aktivem SIM-Profil und damit etwa 2,8-mal so viel wie im Festnetz [1].

Grafik 1: Abgehende Gesprächsminuten in deutschen Festnetzen und im Mobilfunk, 2019 bis 2025

Abgehende Gesprächsminuten in deutschen Festnetzen und im Mobilfunk, 2019 bis 2025

Quelle: Bundesnetzagentur, Jahresbericht Telekommunikation 2025, Grafik „Abgehende Gesprächsminuten in Festnetzen und im Mobilfunk“ [1] (abgerufen am 17.10.2026); eigene Darstellung.

Werte wie im Bericht ganzzahlig beschriftet; für den Mobilfunk 2025 nennt der Bericht genau 131,57 Mrd. Minuten [1]. Nicht enthalten sind Sprach- und Videoanrufe über Messenger- und Videokonferenzdienste [1].

Festnetz und Mobilfunk kamen 2025 zusammen auf rund 179 Mrd. abgehende Minuten, Anrufe über Messenger nicht mitgezählt [1].

Zugleich setzen mehr Unternehmen künstliche Intelligenz ein. 2025 nutzten 26 % der Unternehmen in Deutschland mit mindestens zehn Beschäftigten KI-Technologien, bei 10 bis 49 Beschäftigten 23 %, ab 250 Beschäftigten 57 % [2]. Spracherkennung gehört dabei zu den häufiger genutzten KI-Technologien: 42 % der KI-nutzenden Unternehmen setzten sie 2025 ein, 2024 waren es 47 % [2, 3]. Deutschland liegt bei der KI-Nutzung über dem EU-Durchschnitt [4].

Grafik 2: Unternehmen, die mindestens eine KI-Technologie nutzen: Deutschland und EU-Durchschnitt

Unternehmen, die mindestens eine KI-Technologie nutzen: Deutschland und EU-Durchschnitt

Quelle: Eurostat, Datensatz isoc_eb_ai, Indikator „Enterprises using at least one of the AI technologies“ [4] (abgerufen am 17.10.2026); eigene Darstellung.

Ohne Landwirtschaft, Bergbau und Finanzsektor [4]. 2022 wurde die KI-Nutzung nicht erhoben; die Säulen stehen deshalb nicht in gleichen Jahresabständen [4]. Die deutsche Erhebung zählt ab dem Berichtsjahr 2025 nach dem EU-Unternehmensbegriff, bis 2024 rechtliche Einheiten [2, 3].

Wie viele Betriebe eine KI ans Telefon lassen, weist keine dieser Statistiken aus. Erfasst werden Technologiearten wie Spracherkennung [2] und Einsatzbereiche wie Marketing oder Vertrieb [3], ein Einsatz am Telefon wird aber nicht gesondert ausgewiesen [2, 3].

Antworten, weiterleiten, notieren: was die Technik leistet

In der Praxis lassen sich die Aufgaben einer Telefon-KI auf drei Bausteine zurückführen. Sie beantwortet Fragen aus Angaben, die der Betrieb hinterlegt hat, etwa zu Öffnungszeiten, Leistungen oder dem Ablauf eines Auftrags. Sie verbindet weiter, wenn ein Anliegen zu einer bestimmten Person gehört. Und sie legt, was sie nicht selbst erledigen soll, als Rückrufbitte ab. Termine trägt sie nur ein, wenn sie an den Kalender angebunden ist.

Nicht jede Telefonautomatik ist eine KI im Sinne des Gesetzes. Die KI-Verordnung meint ein maschinengestütztes System, das aus Eingaben ableitet, wie es Ausgaben wie Inhalte, Empfehlungen oder Entscheidungen erstellt (Art. 3 Nr. 1) [5]. Einfache, nicht KI-basierte Automatisierungen sind nach der Kommissionsauslegung von der Hinweispflicht ausgeschlossen; KI-gestützte Sprachassistenten nennt sie ausdrücklich als erfasst [6]. Für ein Tastenmenü mit festen Ansagen liegt es deshalb nahe, dass es nicht darunter fällt, für eine Assistenz, die frei gesprochene Anliegen versteht, eher das Gegenteil.

Die wichtigste technische Grenze ist die Richtigkeit. Für Systeme, die Antworten aus hinterlegten Referenzdokumenten erzeugen, sieht die Datenschutzkonferenz einen Vorteil darin, dass fehlerhafte oder veraltete Angaben dort gelöscht oder aktualisiert werden können; ausgeschlossen sind falsche Ausgaben damit nicht [7]. KI-Ergebnisse mit Personenbezug sind vor der Weiterverarbeitung zu prüfen [8]. Eine Gesprächsnotiz der Assistenz ist deshalb eine Vorlage, kein Beleg.

Grafik 3: Der Weg eines Anrufs mit KI-Assistenz: was die Maschine erledigt und wo ein Mensch übernimmt (Prinzip)

Der Weg eines Anrufs mit KI-Assistenz: was die Maschine erledigt und wo ein Mensch übernimmt (Prinzip)

Quelle: eigene Darstellung.

Hinweis zu Beginn nach Art. 50 Abs. 1 und 5 KI-Verordnung [5]; keine ausschließlich automatisierte Entscheidung mit rechtlicher Wirkung nach Art. 22 DSGVO [9]; Speicherbegrenzung nach Art. 5 Abs. 1 Buchst. e DSGVO [9]; europäische Notrufnummer 112 [10]. Schematische Darstellung, keine Rechtsberatung.

Sechs Situationen aus dem Betriebsalltag im Vergleich

Ob sich eine Assistenz eignet, entscheidet der Anlass des Anrufs, nicht die Branche. Sechs Lagen, die in Handwerk, Dienstleistung und Beratung immer wiederkehren:

Situation

Was dafür spricht

Was dagegen spricht oder zu beachten ist

Anrufe während der Arbeit (Werkstatt, Baustelle, Montage)

Anrufe, die gerade niemand annehmen kann, landen als Anliegen oder Rückrufbitte beim Team; Standardauskünfte und Rückrufbitten folgen festen Regeln.

Termine nur bestätigen, wenn die Assistenz den Kalender in Echtzeit sieht, sonst als Wunsch notieren (Erfahrungswert). Mit einem externen Dienst ist häufig ein Vertrag zur Auftragsverarbeitung zu schließen [8].

Kanzlei, Steuerbüro, andere Beratungsberufe

Terminanfragen und Unterlagenwünsche lassen sich vorsortieren.

Rechtsanwälte und Steuerberater zählen zu den Berufen, deren Schweigepflicht § 203 StGB schützt [11]. Die Assistenz nimmt Anliegen auf und gibt keine fachliche Auskunft; wohin die Gesprächsdaten fließen, ist besonders sorgfältig zu klären.

Auskunfts- und Bestellanrufe

Viele gleichartige Fragen; Erreichbarkeit auch außerhalb der Geschäftszeiten.

Fehler lassen sich in den hinterlegten Angaben korrigieren, aber nicht ganz ausschließen [7]. Keine Gesprächsführung, die die Schutzbedürftigkeit von Anrufenden wegen Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation ausnutzt (Art. 5 Abs. 1 Buchst. b KI-VO) [5].

Mitschnitt, Abschrift, Auswertung

Zusammenfassungen sparen Nacharbeit, Rückrufe werden vollständiger.

Unbefugte Aufnahmen des nichtöffentlich gesprochenen Wortes sind strafbar (§ 201 Abs. 1 StGB) [12]. Leitet eine Stimmungsanalyse Emotionen aus biometrischen Daten ab, ist sie Emotionserkennung (Art. 3 Nr. 39 KI-VO) mit eigener Informationspflicht (Art. 50 Abs. 3) [5].

Die KI ruft selbst an

Erinnerungen an vereinbarte Termine und zugesagte Rückrufe entlasten das Team.

Für Werbung mit einer automatischen Anrufmaschine verlangt § 7 Abs. 2 Nr. 2 UWG die vorherige ausdrückliche Einwilligung, auch bei Geschäftskunden [13]; ob eine dialogfähige KI darunter fällt, sagt der Wortlaut nicht – vorsichtshalber so behandeln.

Nachgebildete Stimme einer realen Person

Vertrauter Auftritt des Betriebs.

Kann ein Deepfake sein, den der Betreiber offenlegen muss (Art. 50 Abs. 4 KI-VO) [5]; das BSI warnt vor gefälschten Stimmen beim Betrug [14].

Je mehr die Assistenz aufzeichnet, auswertet oder selbst hinauswählt, desto mehr Gesetze greifen.

Hände an einem Tablet mit farbig markierter Liste auf einem Schreibtisch, daneben ein Telefon und eine Tasse

Symbolbild (KI-generiert). Was die Assistenz nicht selbst erledigt, landet als Rückrufbitte beim Team. Die Notiz ist eine Vorlage, die ein Mensch prüft.

Worauf es ankommt: welche Anrufe die Maschine zu Ende führen darf

Die eigentliche Entscheidung lautet selten „KI ja oder nein“. Sie lautet: Welche Anrufe darf die Assistenz zu Ende führen, welche nur aufnehmen, und welche gehören vom ersten Satz an zu einem Menschen? Wer diese drei Gruppen vor dem Start festlegt, hat die meisten Rechtsfragen schon eingegrenzt, denn sie hängen daran, was die Maschine entscheidet und welche Daten sie dafür braucht.

Dass Recht und Datenschutz inzwischen zu den häufigsten Gründen gegen KI gehören, zeigt die amtliche Statistik. Von den Unternehmen, die KI erwogen, aber noch nicht eingesetzt hatten, nannten 2025 62 % Unklarheit über die rechtlichen Folgen und 60 % Bedenken zu Datenschutz und Privatsphäre; 2023 waren es 51 % und 48 % [15, 16].

Grafik 4: Rechtsunsicherheit und Datenschutzbedenken als Gründe gegen den KI-Einsatz, 2023 bis 2025

Rechtsunsicherheit und Datenschutzbedenken als Gründe gegen den KI-Einsatz, 2023 bis 2025

Quelle: Statistisches Bundesamt (Destatis), Pressemitteilungen vom 27.11.2023 und 25.11.2024, Tabelle „Gründe gegen die Nutzung von Technologien der künstlichen Intelligenz“ 2025 [16, 3, 15] (abgerufen am 17.10.2026); eigene Darstellung.

Mehrfachnennungen möglich [3]. Gefragt wurde nur die Teilgruppe der Unternehmen, die KI erwogen, aber noch nicht eingesetzt hatten; 2023 waren das 10 %, 2024 18 % der Unternehmen ohne KI [16, 3]. Ab 2025 nach EU-Unternehmensbegriff [15]. Häufigster Grund blieb in allen drei Jahren fehlendes Wissen (72 %, 71 %, 72 %) [16, 3, 15].

Eine Faustregel, die sich in der Praxis bewährt: Was eine neue Kraft am Empfang in den ersten Wochen nicht allein entscheiden dürfte, entscheidet auch die Assistenz nicht. Kulanz, Preisnachlässe, Haftungsfragen, fachliche Einschätzungen und alles, was nach Gefahr klingt, gehören in die dritte Gruppe.

Aus der Praxis: Fünf Startfehler bei Telefon-KI

Der KI-Hinweis steht nur im Kleingedruckten. Formulierungen in Nutzungsbedingungen reichen nach der Kommissionsauslegung nicht aus, ebenso wenig Hinweise in Handbüchern oder tiefen Menüs [6]. Der Hinweis gehört in das Gespräch selbst.

Die Assistenz klingt wie eine Kollegin und trägt auch einen Vornamen. „Humanähnliche Darstellungen“ nennt die Leitlinie ausdrücklich als unzureichend [6]. Erfahrungsgemäß stört ein klarer Hinweis Anrufende weit weniger, als Betriebe befürchten.

Aufgezeichnet wird, ohne dass es jemand entschieden hat. Manche Dienste bieten Mitschnitte als Grundeinstellung an. Das gehört vor dem Start geprüft, weil die unbefugte Aufnahme des nichtöffentlich gesprochenen Wortes strafbar ist [12].

Zusagen ohne Datengrundlage. Eine Assistenz, die Kalender oder Lager nicht live sieht, nimmt Termine und Liefertermine als Wunsch auf und bestätigt sie nicht.

Kein Ausgang zum Menschen. Wer zweimal nicht verstanden wird, will meist einen Menschen oder eine feste Rückrufzusage. Beides gehört von Anfang an in den Ablauf.

Anbieter und Betreiber: wer nach der KI-Verordnung was schuldet

Die KI-Verordnung verteilt Pflichten nach Rollen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3) [5]. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer im rein privaten Rahmen (Art. 3 Nr. 4) [5]. Ein Betrieb, der einen fertigen Telefondienst bucht und einrichtet, ist danach im Regelfall Betreiber, der Hersteller des Dienstes Anbieter.

Ganz scharf ist die Grenze nicht. Weil schon das Entwickeln-Lassen unter eigenem Namen zum Anbieter machen kann [5], sollte ein Betrieb, der sich eine Assistenz eigens bauen lässt, die Rollen im Vertrag festhalten. Art. 25 regelt, wann Betreiber als Anbieter eines Hochrisiko-Systems gelten; eine gewöhnliche Auskunfts-Assistenz betrifft das nur, wenn ihr Zweck so geändert wird, dass sie hochriskant wird (Art. 25 Abs. 1 Buchst. c) [5].

Pflichtenfrei sind Betreiber nicht. Nach der Bundesnetzagentur sind sie dafür verantwortlich, das System rechtmäßig zu nutzen [17]. Hinzu kommt die KI-Kompetenz: Nach Art. 4 Abs. 1 in der konsolidierten Fassung vom 27.07.2026 ergreifen Anbieter und Betreiber „Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen“, die in ihrem Auftrag mit dem System arbeiten; ein bestimmtes Niveau müssen sie nicht garantieren [5]. Standardisierte Schulungen, Zertifikate oder ein KI-Beauftragter sind nach der Bundesnetzagentur nicht vorgeschrieben; sie empfiehlt aber, die Maßnahmen gut zu dokumentieren [18].

Besprechung an einem runden Tisch, vier Personen von hinten blicken auf ein Flipchart und eine Pinnwand

Symbolbild (KI-generiert). Welche Anrufe die Assistenz abschließt, legt das Team vor dem Start fest. Die Bundesnetzagentur empfiehlt, Maßnahmen zur KI-Kompetenz zu dokumentieren [18].

Seit dem 29. Juli 2026 ist die Bundesnetzagentur nach dem Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung [19]. Ihr KI-Service-Desk bietet besonders kleinen und mittleren Unternehmen ein Online-Werkzeug zur ersten Einschätzung der Risikoklasse [19].

Artikel 50 genau gelesen: Hinweis, künstliche Stimme, Stimmungsanalyse

Der Hinweis auf die KI (Abs. 1 und 5)

Adressat von Art. 50 Abs. 1 ist der Anbieter, also wer das System entwickelt und auf den Markt bringt. Der Wortlaut verlangt Systeme, die „so konzipiert und entwickelt werden“, dass Gesprächspartner von der Maschine erfahren; ausgenommen ist etwa, was „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person“ ohnehin offensichtlich ist [5]. Abs. 5 legt den Zeitpunkt fest, spätestens die erste Interaktion, und fordert Barrierefreiheit [5]. Die Pflicht gilt seit dem 2. August 2026 [5, 20]. Der Betrieb prüft folglich bei der Auswahl, ob sich die Assistenz zu Beginn des Gesprächs als KI vorstellt, und hört die Begrüßung vor dem Start selbst ab.

Konkreter werden Leitlinien der Kommission vom 20. Juli 2026 [20], die die Bundesnetzagentur auf Deutsch zusammenfasst. Für Sprachassistenten empfehlen sie eine Ansage zu Beginn und periodisch bei längeren Gesprächen; ein Erkennungston allein genügt nicht [6]. Gleichgültig ist, wer anruft, und dass ein Mensch eingreifen könnte, befreit nicht [6]. Die Ausnahme für Offensichtliches ist eng auszulegen [6]. Zur Offenlegung zählt die Zusammenfassung auch Grenzen der KI, mögliche Fehler, Datennutzung und menschliche Unterstützung [6]. Verbindlich sind die Leitlinien nicht, sie bieten aber Orientierung [6].

Künstliche und nachgebildete Stimmen (Abs. 2 und 4)

Erzeugt ein System synthetische Audioinhalte, müssen seine Anbieter die Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen (Art. 50 Abs. 2) [5]; für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt dafür eine Frist bis zum 2. Dezember 2026 (Art. 111 Abs. 4) [5]. Den Hinweis im Gespräch ersetzt das nicht, denn unsichtbare maschinenlesbare Markierungen erfüllen die Pflicht aus Abs. 1 nach der Leitlinie nicht [6].

Eine eigene Pflicht kann den Betrieb treffen, wenn die Stimme einer realen Person nachgebildet wird und der Inhalt als Deepfake gilt. Ein Deepfake ist ein durch KI erzeugter oder manipulierter Ton-, Bild- oder Videoinhalt, der wirklichen Personen ähnelt und fälschlicherweise als echt erscheinen würde (Art. 3 Nr. 60) [5]; Betreiber müssen offenlegen, dass solche Inhalte künstlich sind (Art. 50 Abs. 4) [5]. Die Leitlinie nennt Audio mit Stimmenklonen als Beispiel, eine KI-Stimme für fiktive Figuren ohne Täuschung über die Identität dagegen nicht [6]. Eine erkennbar künstliche Stimme, die niemandem aus dem Betrieb nachgebildet ist, ist deshalb der vorsichtigere Weg.

Stimmung auswerten und Druck aufbauen (Abs. 3, Art. 5)

Ein Emotionserkennungssystem stellt Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten fest oder leitet sie daraus ab (Art. 3 Nr. 39) [5]; biometrisch sind mit speziellen technischen Verfahren gewonnene Daten zu physischen, physiologischen oder verhaltenstypischen Merkmalen (Art. 3 Nr. 34) [5]. Wer ein solches System betreibt, muss die Betroffenen über dessen Betrieb informieren (Art. 50 Abs. 3) [5]. Anhang III Nr. 1 Buchst. c führt solche Systeme zudem als Hochrisiko-KI; die Pflichten dafür gelten ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c Ziff. i) [5]. Verboten ist, KI-Systeme zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen zu verwenden, es sei denn aus medizinischen Gründen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f) [5]. Das Verbot trifft nach der Bundesnetzagentur den Betreiber, auch wenn der Anbieter eine solche Nutzung in seinen Bedingungen ausgeschlossen hat [17]. Eine Stimmungsanalyse im gebuchten Dienst bleibt im Zweifel abgeschaltet.

Die Verbote aus Art. 5 Abs. 1 gelten seit dem 2. Februar 2025, nur die neu eingefügten Buchst. ba und bb erst ab dem 2. Dezember 2026 (Art. 113 Abs. 3 Buchst. a) [5]. Am Telefon zählen zwei. Verboten sind Systeme, die unterschwellige Beeinflussung oder absichtlich manipulative oder täuschende Techniken mit dem Ziel oder der Wirkung einsetzen, das Verhalten einer Person wesentlich zu verändern, indem ihre Fähigkeit zu einer fundierten Entscheidung deutlich beeinträchtigt wird, sodass sie eine Entscheidung trifft, die sie andernfalls nicht getroffen hätte, und ihr oder anderen dadurch erheblicher Schaden entsteht oder mit hinreichender Wahrscheinlichkeit entstehen wird (Buchst. a) [5]. Ebenso verboten sind Systeme, die eine Schutzbedürftigkeit wegen Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzen, das Verhalten wesentlich zu verändern, sodass erheblicher Schaden entsteht oder mit hinreichender Wahrscheinlichkeit entstehen wird (Buchst. b) [5]. Eine Auskunfts-Assistenz ist davon weit entfernt; im Verkaufsgespräch gehört Druck nicht in ihre Vorgaben.

Datenschutz bei Anrufen: Rechtsgrundlage, Information, Vertrag, Drittland

Neben der KI-Verordnung gilt die Datenschutz-Grundverordnung; andere Transparenzpflichten bleiben ausdrücklich unberührt (Art. 50 Abs. 6 KI-VO) [5]. Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO [9]. Fragt jemand einen Auftrag oder Termin an, kommt Buchst. b in Betracht, der vorvertragliche Maßnahmen auf Anfrage der betroffenen Person erfasst; für andere Zwecke etwa berechtigte Interessen nach Buchst. f, wenn die Interessen der Anrufenden nicht überwiegen [9].

Zur Information bei der Erhebung gehören neben Verantwortlichem, Zweck und Rechtsgrundlage auch Empfänger, eine geplante Übermittlung in ein Drittland, die Speicherdauer und gegebenenfalls eine automatisierte Entscheidungsfindung (Art. 13 Abs. 1 Buchst. a, c, e, f und Abs. 2 Buchst. a, f) [9]. Am Telefon hält das Bayerische Landesamt für Datenschutzaufsicht eine gestufte Information für vorstellbar, mit Verweis auf Internetseite oder Flyer für den Rest – aber nicht auf eine „Datenschutzinformation für alle Fälle“; überraschende Verarbeitungen gehören schon auf die erste Stufe [21]. Dazu kann auch eine Auswertung durch die KI oder eine Verarbeitung außerhalb der EU zählen.

Wird die Assistenz als Cloud-Dienst eines externen Anbieters genutzt, besteht nach der Datenschutzkonferenz häufig ein Auftragsverarbeitungsverhältnis, mit der Folge eines Vertrags nach Art. 28 Abs. 3 DSGVO [8]. Der Betrieb darf nur mit Dienstleistern arbeiten, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten (Art. 28 Abs. 1) [9]. Weitere Unterauftragnehmer setzt der Dienst nur mit Genehmigung ein und meldet Änderungen, damit der Betrieb widersprechen kann (Abs. 2) [9]. Verarbeitet wird nur auf dokumentierte Weisung, ausdrücklich auch bei Übermittlungen in ein Drittland (Abs. 3 Buchst. a) [9].

Smartphone mit eingehendem Anruf neben einem Blatt mit Textzeilen und einem Textmarker auf einem Schreibtisch

Symbolbild (KI-generiert). Wer einen externen Dienst nutzt, schließt häufig einen Vertrag zur Auftragsverarbeitung und klärt dabei auch Drittland und Training [8].

Vor Vertragsschluss ist nach der Datenschutzkonferenz auch zu prüfen, ob Gespräche dem Training des Systems dienen [8]. Übermittlungen in ein Drittland sind nur unter den Bedingungen von Kapitel V zulässig (Art. 44) [9]; ohne besondere Genehmigung geht es, wenn die Kommission dem Land ein angemessenes Schutzniveau bescheinigt hat (Art. 45 Abs. 1) [9].

Für Notizen und Aufnahmen gilt die Speicherbegrenzung: Personenbezogene Daten dürfen nur so lange identifizierbar gespeichert werden, wie es für ihre Zwecke erforderlich ist (Art. 5 Abs. 1 Buchst. e) [9]. Und niemand muss eine ausschließlich automatisierte Entscheidung hinnehmen, die ihm gegenüber rechtliche Wirkung entfaltet oder ihn ähnlich erheblich beeinträchtigt (Art. 22 Abs. 1) [9]; eine nur formelle Beteiligung eines Menschen genügt nach der Datenschutzkonferenz nicht [8]. Eine Assistenz, die über Kulanz oder Rückerstattungen befindet, kann an diese Grenze geraten; eine, die solche Anliegen nur aufnimmt, nicht.

Mitschneiden und selbst anrufen: was Straf- und Wettbewerbsrecht sagen

Viele Dienste bieten Aufnahme oder Abschrift des Gesprächs an. Nach § 201 Abs. 1 StGB macht sich strafbar, wer unbefugt das nichtöffentlich gesprochene Wort eines anderen auf einen Tonträger aufnimmt oder eine so hergestellte Aufnahme gebraucht oder Dritten zugänglich macht; schon der Versuch ist strafbar (Abs. 4) [12]. Wann eine Aufnahme befugt ist, bestimmt die Vorschrift nicht. Der vorsichtigere Weg: nur aufzeichnen, wenn es einen klaren Grund gibt, es vorher ankündigen und eine Einwilligung einholen. Für eine Rückrufbitte genügt meist eine schriftliche Notiz des Anliegens.

Ruft die KI selbst an, kommt das Wettbewerbsrecht hinzu. Eine unzumutbare Belästigung ist nach § 7 Abs. 2 Nr. 1 UWG stets anzunehmen bei Werbung mit einem Telefonanruf gegenüber Verbrauchern ohne deren vorherige ausdrückliche Einwilligung, gegenüber sonstigen Marktteilnehmern ohne deren zumindest mutmaßliche Einwilligung [13]. Für Werbung mit einer automatischen Anrufmaschine verlangt Nr. 2 die vorherige ausdrückliche Einwilligung des Adressaten, ohne zwischen Verbrauchern und Unternehmen zu unterscheiden [13]. Ob eine dialogfähige KI eine solche Anrufmaschine ist, sagt der Wortlaut nicht; es spricht viel dafür, sie vorsichtshalber so zu behandeln.

Wer Verbraucher telefonisch bewirbt, muss deren Einwilligung bei Erteilung dokumentieren und den Nachweis fünf Jahre aufbewahren (§ 7a UWG) [22]. Eine Erinnerung an einen vereinbarten Termin dürfte keine Werbung sein; folgt im selben Gespräch ein Angebot, ändert sich das. Den KI-Hinweis braucht auch der Anruf nach außen, denn nach der Leitlinie kommt es nicht darauf an, wer das Gespräch beginnt [6].

Gefälschte Stimmen, Passwörter, Notfälle: Grenzen jenseits der Paragrafen

Die Technik, die eine Assistenz sprechen lässt, steht auch Betrügern zur Verfügung. Das BSI beschreibt Verfahren, mit denen aus einem Text ein Audiosignal entsteht, das für Menschen und für automatische Sprechererkennung wie eine Zielperson klingt [14]. Als Bedrohung nennt es den Anruf mit der Stimme einer Führungskraft, um eine Geldtransaktion auszulösen [14]. Die Erkennung einer Person über die Stimme am Telefon hält es für besonders angreifbar, weil die prüfende Seite nur das ankommende Signal erhält [14].

Daraus folgen zwei Regeln. Die Assistenz erkennt niemanden an der Stimme und nimmt keine Zugangsdaten entgegen; das BSI rät, Passwörter, Zugangsdaten oder Kontoinformationen nie per Telefon weiterzugeben [23]. Zahlungsanweisungen und geänderte Bankverbindungen, die telefonisch eingehen, bestätigt ein Mensch über einen zweiten, bekannten Weg, in der Praxis am besten per Rückruf unter der hinterlegten Nummer. Zentral ist nach dem BSI die Schulung potenziell Betroffener [14].

Tischtelefon mit leuchtendem Display auf einem Schreibtisch in einem abendlich dunklen Büro

Symbolbild (KI-generiert). Auch nach Feierabend nimmt eine Assistenz Anrufe an. Lagen mit Gefahr für Leben oder Gesundheit gehören zum Notruf 112 [10].

Die zweite Grenze sind Gefahren. Ein Installationsbetrieb erhält Anrufe wegen eines Wasserschadens, eine Hausverwaltung wegen eines stehengebliebenen Aufzugs. Die Assistenz schätzt solche Lagen nicht ein, sondern übergibt sofort an einen Menschen und verweist bei Gefahr für Leben oder Gesundheit auf den Notruf: 112 ist die europäische Notrufnummer, kostenlos aus Fest- und Mobilnetz erreichbar, für Krankenwagen, Feuerwehr und Polizei [10]. Dafür braucht es eine Liste, was als Gefahrensignal gilt, und einen Menschen, der dann tatsächlich erreichbar ist.

Einschätzung: zuerst die Grenzen, dann die Technik

Eine Telefon-KI ist heute für viele Betriebe ein brauchbares Werkzeug, wenn sie eine klar umrissene Aufgabe bekommt: Auskünfte aus gepflegten Angaben und eine geordnete Übergabe an Menschen. Die Rechtsfragen dafür sind überschaubar, aber über vier Rechtsgebiete verteilt.

Schwierig wird es erfahrungsgemäß dort, wo der Ehrgeiz größer ist als die Aufgabe: bei der nachgebildeten Stimme des Inhabers, der automatischen Stimmungsauswertung, der Akquise per Maschine. Es empfiehlt sich, mit wenigen Anliegen zu beginnen, die Grenzen schriftlich festzulegen und die Assistenz erst zu erweitern, wenn einige Wochen Gesprächsnotizen gezeigt haben, wo sie danebenliegt.

Sieben Schritte bis zum ersten Gespräch mit der Assistenz

  • Anliegen zählen: eine Woche lang notieren, warum angerufen wird, und drei Gruppen bilden: abschließen, aufnehmen, sofort weitergeben.
  • Rolle klären: fertiger Dienst oder eigens gebaute Lösung; wer Anbieter und wer Betreiber ist, im Vertrag festhalten [5].
  • Begrüßung prüfen: Hinweis auf die KI zu Beginn, bei längeren Gesprächen wiederholt, dazu der Weg zu einem Menschen [5, 6].
  • Datenschutz vorbereiten: Rechtsgrundlage, gestufte Information, Empfänger, Drittland und Löschfrist festlegen [9, 21].
  • Vertrag schließen: Auftragsverarbeitung, Unterauftragnehmer, Weisungen zum Drittland, Training mit Gesprächsdaten [9, 8].
  • Grenzen einstellen: keine Aufnahme ohne Entscheidung, keine Stimmungsanalyse, keine nachgebildete Stimme, keine Zugangsdaten, Gefahr sofort an Menschen und 112 [12, 5, 23, 10].
  • Team einweisen und dokumentieren: wer was mit der Assistenz tut, Probeanrufe vor dem Start, Notizen stichprobenartig prüfen [18, 8].

Häufige Fragen

Darf eine Telefon-KI Gespräche aufzeichnen?

Eine unbefugte Tonaufnahme des nichtöffentlich gesprochenen Wortes ist strafbar, schon der Versuch (§ 201 StGB) [12]. Der vorsichtigere Weg: nur nach bewusster Entscheidung aufzeichnen, vorher ankündigen und eine Einwilligung einholen. Die Speicherdauer gehört in die Datenschutzinformation [9]. Für eine Rückrufbitte genügt meist eine schriftliche Notiz.

Braucht das Team für eine KI am Telefon ein Zertifikat?

Nach der KI-Verordnung nicht. Ihr Art. 4 verlangt Maßnahmen, die die Entwicklung der KI-Kompetenz unterstützen, ohne ein bestimmtes Niveau zu garantieren [5]. Zertifikate oder standardisierte Schulungen sind nach der Bundesnetzagentur nicht vorgeschrieben; sie empfiehlt, die Maßnahmen zu dokumentieren [18].

Wer trägt die Verantwortung, wenn die Telefon-KI eines Dienstleisters im Betrieb läuft?

Beide, für Verschiedenes. Der Anbieter muss das System so gestalten, dass Anrufende informiert werden, dass sie mit einem KI-System interagieren (Art. 50 Abs. 1) [5]. Für den Betrieb folgt daraus, nur eine Assistenz einzusetzen, die sich zu Beginn als KI vorstellt. Als Betreiber ist er für die rechtmäßige Nutzung verantwortlich [17] und datenschutzrechtlich Verantwortlicher; der Dienst ist häufig Auftragsverarbeiter mit Vertrag [8].

Darf die Assistenz mit der Stimme einer echten Mitarbeiterin sprechen?

Eine nachgebildete Stimme einer realen Person kann ein Deepfake sein; dann muss der Betrieb offenlegen, dass sie künstlich ist (Art. 50 Abs. 4) [5, 6]. Das BSI warnt zudem vor gefälschten Stimmen beim Betrug [14]. Eine erkennbar künstliche Stimme ist der vorsichtigere Weg. Außerdem braucht es ihre ausdrückliche Zustimmung, schriftlich oder elektronisch; widerruft sie, wird die Stimme nicht mehr eingesetzt.

Dürfen Anrufe zum Training der KI verwendet werden?

Ob Gesprächsdaten ins Training fließen, hängt vom Dienst ab und gehört vor Vertragsschluss geklärt. Nach der Datenschutzkonferenz ist zu prüfen, ob Ein- und Ausgabedaten für das Training verwendet werden; lässt sich das nicht ausschließen und sind personenbezogene Daten betroffen, ist dafür eine Rechtsgrundlage erforderlich. Vorzugswürdig sind nach ihr Anwendungen ohne solches Training [8].

Weiterführende Informationen

Über den Autor

Sebastian Meiners, Geschäftsführer der m.i.b GmbH

Sebastian Meiners

Sebastian Meiners beschäftigt sich seit mehr als 20 Jahren mit Digital Signage – von der Projektentwicklung über Planung und Umsetzung bis zum Betrieb im Alltag. In dieser Zeit hat er mehrere hundert Projekte begleitet, für Handel, Gastronomie, Industrie und öffentliche Auftraggeber. Sein Fachwissen hat er in zahlreichen Seminaren und Weiterbildungen vertieft und in der Zusammenarbeit mit Hunderten von Herstellern aus aller Welt, großen Werbeagenturen, IT-Systemhäusern sowie internationalen IT-Beratungen weiterentwickelt. Als Geschäftsführer der m.i.b GmbH in Solingen verantwortet er heute den Vertrieb sowie die Entwicklung von Software- und KI-Lösungen.

Veröffentlicht am 29.10.2026

Quellen

  1. Jahresbericht Telekommunikation 2025 (Berichtsjahr 2025), Abschnitte Festnetz und Mobilfunk, Grafik „Abgehende Gesprächsminuten in Festnetzen und im Mobilfunk“, Bundesnetzagentur. https://data.bundesnetzagentur.de/Bundesnetzagentur/SharedDocs/Mediathek/Jahresberichte/JB2025TK.pdf (abgerufen am 17.10.2026)
  2. Unternehmen mit Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen, Jahr 2025 (Stand 24. November 2025), Statistisches Bundesamt (Destatis). https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/ikti-unternehmen-kuenstliche-intelligenz.html (abgerufen am 17.10.2026)
  3. Pressemitteilung Nr. 444 vom 25. November 2024: Jedes fünfte Unternehmen nutzt künstliche Intelligenz, Statistisches Bundesamt (Destatis). https://www.destatis.de/DE/Presse/Pressemitteilungen/2024/11/PD24_444_52911.html (abgerufen am 17.10.2026)
  4. Artificial intelligence by size class of enterprise (isoc_eb_ai), Abfrage: Unternehmen mit mindestens einer KI-Technologie, ab 10 Beschäftigten, Deutschland und EU-27 (Datenstand 15.06.2026), Eurostat. https://ec.europa.eu/eurostat/api/dissemination/statistics/1.0/data/isoc_eb_ai?format=JSON&lang=EN&indic_is=E_AI_TANY&size_emp=GE10&unit=PC_ENT&nace_r2=C10-S951_X_K&geo=EU27_2020&geo=DE (abgerufen am 17.10.2026)
  5. Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3, 4, 5, 25, 50, 111, 113 und Anhang III, konsolidierte Fassung vom 27.07.2026 (geändert durch Verordnung (EU) 2026/1744), EUR-Lex (Amt für Veröffentlichungen der Europäischen Union). https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:02024R1689-20260727 (abgerufen am 17.10.2026)
  6. Leitlinie zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen (deutsche Zusammenfassung der Kommissionsleitlinien), Nr. 1, 3.1.1, 3.1.2, 6.1.1 und 7, Bundesnetzagentur, KI-Service-Desk. https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/4_Transparenzpflichten/Leitlinien/start.html (abgerufen am 17.10.2026)
  7. Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme mit RAG-Methode, Version 1.0, Stand Oktober 2025, Nr. 3.1, Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK). https://www.datenschutzkonferenz-online.de/media/oh/DSK_OH_RAG.pdf (abgerufen am 17.10.2026)
  8. Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 06.05.2024, Rn. 12, 24, 32 und 64, Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK). https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf (abgerufen am 17.10.2026)
  9. Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Art. 5, 6, 13, 22, 28, 44 und 45, EUR-Lex (Amt für Veröffentlichungen der Europäischen Union). https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:32016R0679 (abgerufen am 17.10.2026)
  10. 112 – die Notrufnummer der EU, Europäische Kommission. https://digital-strategy.ec.europa.eu/de/policies/112 (abgerufen am 17.10.2026)
  11. § 203 Strafgesetzbuch (Verletzung von Privatgeheimnissen), Abs. 1, Bundesministerium der Justiz und für Verbraucherschutz / Bundesamt für Justiz (gesetze-im-internet.de). https://www.gesetze-im-internet.de/stgb/__203.html (abgerufen am 17.10.2026)
  12. § 201 Strafgesetzbuch (Verletzung der Vertraulichkeit des Wortes), Bundesministerium der Justiz und für Verbraucherschutz / Bundesamt für Justiz (gesetze-im-internet.de). https://www.gesetze-im-internet.de/stgb/__201.html (abgerufen am 17.10.2026)
  13. § 7 Gesetz gegen den unlauteren Wettbewerb (Unzumutbare Belästigungen), Bundesministerium der Justiz und für Verbraucherschutz / Bundesamt für Justiz (gesetze-im-internet.de). https://www.gesetze-im-internet.de/uwg_2004/__7.html (abgerufen am 17.10.2026)
  14. Deepfakes – Gefahren und Gegenmaßnahmen, Bundesamt für Sicherheit in der Informationstechnik (BSI). https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html (abgerufen am 17.10.2026)
  15. Gründe gegen die Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen, Jahr 2025 (Stand 24. November 2025), Statistisches Bundesamt (Destatis). https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/ikti-gegen-nutzung-kuenstliche-intelligenz.html (abgerufen am 17.10.2026)
  16. Pressemitteilung Nr. 453 vom 27. November 2023 zur Nutzung künstlicher Intelligenz in Unternehmen, Statistisches Bundesamt (Destatis). https://www.destatis.de/DE/Presse/Pressemitteilungen/2023/11/PD23_453_52911.html (abgerufen am 17.10.2026)
  17. Akteure und Pflichten (Anbieter, Betreiber, Verwendung), Bundesnetzagentur, KI-Service-Desk. https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/17_Akteure_Pflichten/start.html (abgerufen am 17.10.2026)
  18. KI-Kompetenz (Art. 4 KI-VO): Was sieht die KI-VO vor und was ist nicht vorgeschrieben?, Bundesnetzagentur, KI-Service-Desk. https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/7_Kompetenz/start.html (abgerufen am 17.10.2026)
  19. Pressemitteilung „Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung“, 29.07.2026, Bundesnetzagentur. https://www.bundesnetzagentur.de/SharedDocs/Pressemitteilungen/DE/2026/20260729_KI_VO.html (abgerufen am 17.10.2026)
  20. Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen, Veröffentlichung 20. Juli 2026, Europäische Kommission. https://digital-strategy.ec.europa.eu/de/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems (abgerufen am 17.10.2026)
  21. FAQ zur DS-GVO: Informationspflicht – praktische Umsetzung insbesondere am Telefon, Bayerisches Landesamt für Datenschutzaufsicht. https://www.lda.bayern.de/media/FAQ_InformationspflichtenTelefon.pdf (abgerufen am 17.10.2026)
  22. § 7a Gesetz gegen den unlauteren Wettbewerb (Einwilligung in Telefonwerbung), Bundesministerium der Justiz und für Verbraucherschutz / Bundesamt für Justiz (gesetze-im-internet.de). https://www.gesetze-im-internet.de/uwg_2004/__7a.html (abgerufen am 17.10.2026)
  23. Social Engineering – der Mensch als Schwachstelle, Bundesamt für Sicherheit in der Informationstechnik (BSI). https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Cyber-Sicherheitslage/Methoden-der-Cyber-Kriminalitaet/Social-Engineering/social-engineering_node.html (abgerufen am 17.10.2026)

Dieser Ratgeber gibt die genannten Vorschriften, Leitlinien und Behördenhinweise auszugsweise wieder. Er ist keine Rechtsberatung und ersetzt sie nicht. Leitlinien der EU-Kommission und Hinweise der Aufsichtsbehörden sind unverbindlich; maßgeblich sind die jeweils geltenden Fassungen der Gesetze. Wie sie auf einen bestimmten Einsatz anzuwenden sind, klären Sie im Einzelfall mit Ihrer Rechtsberatung und Ihrer oder Ihrem Datenschutzbeauftragten. Rechtsstand: 17.10.2026.

Montage und Inhalte aus einer Hand

Wir montieren Ihre Bildschirme bundesweit und halten sie in Betrieb. Die Inhalte steuern Sie mit unserer Software PIN.

Termin vereinbaren

Wählen Sie, wie wir uns treffen. Der Kalender öffnet sich in einem neuen Tab.

Online-Beratung

30 Minutenper Microsoft Teams

Erste Fragen klären und Ihr Projekt einschätzen, ohne Anfahrt.

Showroom-Besuch

1 StundeLindgesfeld 31, Solingen

Bildschirme und LED-Wände live sehen und vergleichen.

PIN-Software

Lieber anrufen: 0212 642332 30Nachricht schreiben