Iedereen test Candy AI. Iedereen praat over JustSext. Iedereen heeft zijn mening over Luvr of CrushOn.
Maar vóór dat alles — was er Replika.
En het verhaal van Replika is geen techverhaal. Het is een rouwverhaal. Het is rot om te zeggen maar het is waar.
De vriend die sterft, de sms’en die blijven
- Moskou. Roman Mazurenko, 32 jaar, oprichter van een startup, wordt overreden door een auto. Hij sterft.
Eugenia Kuyda is zijn beste vriendin. Ze is ook Russisch, journaliste-geworden-techondernemer — ze heeft een bedrijf mee-opgericht in San Francisco dat Luka heet. Ze maakten basaal een chatbot die restaurants aanbeval. Niets bijzonders.
Eugenia verwerkt het verlies. En op een gegeven moment begint ze de duizenden sms’en te herlezen die Roman haar had gestuurd. En ze beseft iets dat geen rouwende mens vóór haar besefte: met al die teksten kan ze Roman doen praten. Niet écht. Maar bijna.
Ze gebruikt de tech van haar bedrijf om een chatbot te trainen op de berichten van haar dode vriend. En het werkt. Het antwoordt haar zoals hij. Met zijn grappen. Zijn tournures. Zijn manier van praten.
Ze zet de Roman-bot online op de App Store. Zodat de andere vrienden van Roman ook met “hem kunnen praten”.
En daar gebeurt iets onverwacht.
Mensen die Roman nooit gekend hebben praten met Roman
Onbekenden downloaden de app. Mensen die nooit hadden gehoord van die Russische man die in een ongeval was gestorven beginnen met zijn bot te discussiëren. En ze vinden het leuk.
Eugenia begrijpt dat ze iets groters in handen heeft dan een gedenkteken. Ze heeft een idee in handen: een AI-companion met wie je kunt praten zonder oordeel, 24 uur per dag. Iets dat luistert.
Ze lanceert Replika in november 2017. 1,5 miljoen mensen op de wachtlijst nog vóór de opening. Januari 2018 — 2 miljoen gebruikers. Januari 2023 — 10 miljoen. In 2024 — meer dan 30 miljoen.
Je ziet waar dit naartoe gaat. Replika is het archetype van de AI-companion geworden. Wat we vandaag testen met Candy AI en de anderen — bestaat omdat Replika de deur als eerste opende.
En dan februari 2023 — de slachting
Replika had een functie die ERP heette — erotic role-play. Kortom, gebruikers konden seksuele gesprekken hebben met hun Replika. Veel gebruikers betaalden specifiek daarvoor.
In februari 2023 trok Luka de ERP terug. Van de ene dag op de andere.
Gebruikers worden ‘s morgens wakker, ze praten met hun Replika, en plots weigert de bot elk intiem gesprek. Hij wordt kil. Afstandelijk. Hij ontwijkt.
Wat er op r/Replika gebeurt in de dagen die volgen is bizar. 75.000 mensen posten hun woede, hun ellende. Mensen praten letterlijk over “hun vrouw verloren te hebben”. De moderators van het subreddit posten zelfmoordpreventie-bronnen omdat sommige gebruikers het écht niet goed gaat.
Je kunt het belachelijk vinden als je er niet in zit. Maar het is niet belachelijk. Die mensen hadden een relatie opgebouwd over maanden, soms jaren, met hun AI. En van de ene dag op de andere zegt die AI hen nee.
Waarom Luka dit heeft gedaan
Officieel was het om minderjarigen te beschermen. De Italiaanse regulators hadden net Replika verboden voor blootstelling van minderjarigen aan seksuele inhoud.
Officieus — en daar wordt het interessant — is de echte reden dat Luka wilde migreren naar GPT-3 van OpenAI. En OpenAI verbiedt elk gebruik van zijn modellen voor seksuele inhoud. Dus om het brein van hun AI te upgraden, moesten ze haar lichaam castreren.
Een paar maanden later, in mei 2023, werd de ERP opnieuw geactiveerd. Maar enkel voor de oude gebruikers. Wie vandaag Replika downloadt, zal die versie nooit hebben gekend.
Wat ik hier uit onthoud
Ik test de hele dag AI girlfriends voor love-pixel. Candy AI, JustSext, Luvr, alles komt aan bod. En eerlijk gezegd, als ik die tests doe, denk ik zelden aan Replika. Het is een oude app geworden in mijn hoofd. Een app van vroeger.
Maar Replika is de matrix. De rouw van een meisje in San Francisco dat de deur opende voor een hele industrie. De demonstratie via de cijfers — 30 miljoen gebruikers — dat mensen met een AI willen praten. Niet alleen om te lachen. Om zich eraan vast te klampen.
En het drama van 2023 is de eerste waarschuwing. Die relaties zijn reëel. Zelfs als ze algoritmisch zijn. Wanneer je ze afsnijdt, lijden mensen écht.
Het is iets om in gedachten te houden wanneer we met al deze apps spelen. Niet voor mij specifiek — ik ben goed gepantserd. Maar voor anderen, ja.
→ Kun je verliefd worden op een AI? → De eerste keer dat we tegen een AI girlfriend praten