Facebook nu va recunoaște cu AI tendințele de suicid ale utilizatorilor din Europa

Un nou AI Facebook care ne monitorizează postările pe această rețea de socializare a primit sarcina de a ne detecta tendințele de suicid exprimate în mesaje text. El este testat în prezent în SUA și este pregătit să fie extins la nivel mondial – cu excepția țărilor din UE unde legile stricte privind confidențialitatea nu permit companiei să utilizeze deocamdată această facilitate.

Facebook și-a suplimentat investițiile în acest AI și l-a inclus în manifestul de 6000 de cuvinte de la începutul acestui an după incidentul Katelyn de anul trecut.

Incidentul Katelyn de anul trecut (Katelyn Nicole Davis, în vârstă de 12 ani, și-a transmis sinuciderea în direct pe o altă platformă social media, Live.me – înregistrarea de 43 de minute a fost postată ulterior pe Facebook unde a rămas disponibilă timp de două săptămâni) și cifrele Organizației Mondiale a Sănătății potrivit cărora suicidul este a II-a cauză principală de deces pentru persoanele cu vârste între 15 și 29 de ani l-au convins pe Mark Zuckerberg să includă în manifestul său de 6000 de cuvinte de la începutul acestui an și măsuri de sprijin a utilizatorilro de Facebook cu tendințe de suicid. Așa se explică suplimentarea investițiilor în acest AI și eforturile de negociere cu oficiali ai Uniunii Europene.

Ideea e simplă. Până acum Facebook a oferit sfaturi utilizatorilor despre care se credea că au intenții de suicid în baza unor acțiuni umane (prieteni care au dat click pe butonul de raport al unui post). Incepând din luna martie a acestui an început să folosească inteligența artificială pentru a identifica aceste tendințele și să trimită o alertă unor operatori și prieteni umani – în speranța că prietenii ne vor convinge să rămânem la stadiul de tentativă și că autoritățile vor reuși să ajungă la timp pentru a ne ajuta. Mark Zuckerberg a investit enorm în acest an pentru a putea pune în practică această idee, a colaborat cu mai multe organizații sănătate mintală și a discutat ore în șir cu diverși reprezentanți ai autorităților americane și, în special, europene. Cu toate acestea, a fost nevoit să ne trasnmită că testele au reușit. Cu două excepții.

Tendințele de suicid sunt monitorizate oficial doar în mesajele text, nu și în streaming-ul video live

Sper ca acest impediment să fie remediat în cel mai scurt timp. Cei care-și trag singuri de ața de pe fuior nu mai stau să scrie. Pornesc camera și transmit live. Nu aceasta este tendința? Nu suntem îndemnați pe mai multe canale să creem conținut video în direct?

Cea mai mare provocare este modul în care-și va adapta informațiile la cultura din care provine utilizatorul.

Tendințele de suicid vor fi monitorizate oficial în toată lumea, cu excepția Europei

Este normal ca cei votați să ne reprezinte interesele să fac tot ce este omenește posibil ca să ne protejeze, dar mi se pare corect ca aceste măsuri să fie luate într-un ritm adaptat la provocările cu care ne confruntăm. Decalajul dintre sistemul legislativ european și evoluția tehnologică sunt din ce în ce mai evidente.

„Știm că viteza este critică atunci când lucrurile sunt urgente”, a declarat managerul de produs Facebook, Vanessa Callison-Burch, pentru BBC. (sursa bbc.com)

Viteza cu care se actualizează legile. Viteza cu care AI identifică tendințele de suicid. Viteza cu care i-a o decizie. Viteza cu care transmite un mesaj celor mai apropiați priteni – ca nivel de atașament și ca locație. Viteza cu care transmite o alertă autorităților locale. Viteza cu care prietenii citesc mesajul și decid să intervină. Viteza cu care autoritățile decid să intervină. Viteza cu care prietenii intervin. Viteza cu care autoritățile intervin. Viteza cu care prietenii și autoritățile îl conving să renunțe. La final sunt îmbrățișări și consilieri de specialitate. Cei care au avut de-a face cu cazuri de suicid știu că timpul se măsoară în minute. Viteza este într-adevăr critică. Fiecare mandat acordat unui trântor poate duce la pierderi de vieți omenești. Pentru că prima viteză aparține sistemului legislativ.

Utilizatori obișnuiți de Facebook nu-și vor putea bloca această funcție de monitorizare. Ei vor putea doar să-și exprime opțiunea de a primi sau nu sprijin din partea Facebook și a partenerilor săi. Vrei să te anunțăm dacă identificăm tendințe suicidale pe contul tău? DA / NU.

„Această funcție este concepută pentru a spori siguranța utilizatorilor și că resursele de sprijin oferite de Facebook pot fi respinse rapid dacă un utilizator nu dorește să le vadă.” a declarat un purtător de cuvânt Facebook pentru TechCrunch (sursa techcrunch.com)

Ce se va întâmpla cu un american venit ca turist în România care începe să transmită în direct pe Facebook că dorește să se sinucidă după câteva țoiuri cu pălincă? Transmite text. Stie că streaming-ul video live nu poate fi monitorizat. Iși cere scuze prietenilor pentru toate greșelile știute și neștiute. Le promite că îi va vizita în fiecare noapte de Halloween. Il ajută AI-ul lui Mark Zuckerberg? O fi el cetățeam american, dar se află pe teritoriul european și pe aici AI-ul are câteva restricții.

Cum ați proceda dacă ați primi un mesaj că persoana cu care sunteți într-o relație pe Facebook are gânduri de suicid?

Am păstrat pentru final această întrebare. Cum procedați? Ignorați mesajul sau încercați să vedeți dacă este adevărat? Dincolo de toate limitările actuale ale AI și de toate restricțiile legislative la final se ajunge tot la o intervenție umană. Nu vine AI-ul lui Mark să-i strice șusta celui a cărui nume nu se pronunță. Tot noi trebuie să intervenim. Ce facem? Intervenim sau continuăm să citim ce ne mai e afișat în feed. Avem încredere într-o inteligență artificială? A mai rămas în noi ceva din omenia părinților?