Aktuell wird im US-Bundesstaat Kalifornien ein brisanter neuer Gesetzesentwurf diskutiert. Dieser soll Bots, KI-Assistenten und andere automatisierte Systeme dazu zwingen, sich als Maschinen erkenntlich zu machen. Dies soll den Nutzern mehr Sicherheit verschaffen, könnte jedoch bei Anwendungen wie digitalen Sprachassistenten auch hinderlich sein.
Bots sollen sagen, dass sie Maschinen sind
Der Gesetzentwurf hat zum Ziel, dass sich Systeme, wie Bots und smarte Assistenten vor der Interaktion mit den menschlichen Nutzern als solche zu erkennen geben. Die Gesetzesvorlage sieht zudem vor, dass Nutzer Systeme, die sich nicht zu erkennen geben, melden können. Sollte das Gesetz durchkommen, würde es diverse kalifornische Betreiber von digitalen Sprachassistenten wie Apple, Google und Microsoft betreffen.
Dem Gesetzentwurf zufolge müssen automatisierte Systeme dem Nutzer zu Beginn jeder Kommunikation in klarer und leicht verständlicher Aussprache mitteilen, dass es sich bei ihnen um Maschinen handelt. Bei einer Kommunikation per Video soll diese Info auf klar erkenntliche Art für die Dauer von vier Sekunden eingeblendet werden. Auch textbasierte automatisierte Systeme zur Kundenkommunikation müssen dies in schriftlicher und gut lesbarer Form kenntlich machen. Dahingegen ist bisher unklar, ob die Reglung auch für andere Sprachen außer Englisch greifen soll.
Mögliche Folgen für digitale Sprachassistenten
Da auch digitale Sprachassistenten mit künstlichen Intelligenzen arbeiten, hätte ein Inkrafttreten des Gesetzes für Alexa & Co weitreichende Folgen. So stellte Google gerade erst auf der Entwicklermesse I/O 2018 das Projekt Duplex vor. Bei diesem sprach der Google Assistent mit menschlichen Gesprächspartnern. Hierbei gelang es der KI, beim Tätigen von Reservierungen auf Gegenfragen des Nutzers mündlich zu reagieren.
In diesem Rahmen sorgte das neuronale Netzwerk Wavenet für eine sehr echt und natürlich klingende Sprachausgabe. Da eröffnet sich die Frage, ob diese gute Kommunikation zwischen Mensch und Maschine nicht beeinträchtigt werden würde, wenn sich Duplex als künstliche Intelligenz zu erkennen geben müsste. Auf der anderen Seite könnte das Gesetz „bösartige“ Bots daran hindern, die Nutzer zu betrügen.