Potrivit BBC, aceşti algoritmi sunt "antrenaţi" cu exemple de mesaje care în trecut au fost raportate ca indicând o astfel de problemă, cum ar fi postări despre tristeţe şi durere sau răspunsuri de la prieteni, cum ar fi "eşti OK?" sau "sunt îngrijorat în ceea ce te priveşte".

Instrumentul este în prezent în curs de testare în Statele Unite şi marchează prima utilizare a tehnologiei AI pentru evaluarea mesajelor din reţea, de la anunţul făcut luna trecută de fondatorul Facebook, Mark Zuckerberg, în care acesta îşi exprima speranţa şi faţă de folosirea algoritmilor pentru identificarea postărilor teroriştilor.

Facebook a anunţat, de asemenea, noi modalităţi de abordare a comportamentului suicidar pe instrumentul său Facebook Live şi a încheiat parteneriate cu mai multe organizaţii americane specializate în tratamentul persoanelor cu probleme mintale, pentru a permite utilizatorilor vulnerabili să le contacteze prin intermediul serviciului său de mesagerie instant, Messenger.

Facebook oferea consiliere utilizatorilor cu risc de suicid de ani de zile, însă până în prezent s-a bazat pe alţi utilizatori pentru a aduce această problemă în atenţia sa, dând clic pe butonul de "report" al unei postări.

Acest ultim efort pentru a-i ajuta utilizatorii reţelei vine în urma decesului unei fete de 14 ani din Miami, care şi-a transmis live sinuciderea pe platforma de socializare în luna ianuarie.