Datingapp Tinder voegt een Are You Sure-functie toe, die gebruikers om bevestiging vraagt voordat ze een potentieel aanstootgevend bericht sturen. Tinder gebruikt naar eigen zeggen kunstmatige intelligentie om aanstootgevende berichten tijdens het typen te herkennen.
De AI is volgens Tinder gebaseerd op berichten die in het verleden zijn gerapporteerd als aanstootgevend. Het model blijft evolueren en moet in de loop van de tijd verbeteren, zegt het bedrijf. Volgens Tinder hebben tests met de AYS-functie gezorgd voor een daling van 10 procent in 'ongepast taalgebruik'.
De Are You Sure-functie is een aanvulling op de bestaande Does This Bother You?-functie, die ontvangers van berichten vraagt of ze zich ongemakkelijk voelen na het krijgen van een potentieel aanstootgevend bericht.
Tinder heeft al getest met de AYS-prompt en zegt dat berichten van gebruikers die de pop-up te zien kregen, minder vaak gerapporteerd werden in de daaropvolgende maand. Dat zou aantonen dat de pop-up een langdurig effect heeft en niet alleen bij één gesprek.
De Does This Bother You?-pop-up heeft geresulteerd in een stijging van 46 procent in de meldingen van ongepaste berichten. Het afgelopen jaar was voor Tinder het 'drukste tot nu toe'. De datingapp bestaat sinds 2012, is beschikbaar in 190 landen en is in totaal meer dan 430 miljoen keer gedownload.