Sinucidere și Facebook AI
Cuprins:
Atunci când o persoană moare prin sinucidere, cei din viața lor se întreabă adesea ce ar fi putut face pentru ao preveni.
Utilizatorii de social media pot chiar regreta să vadă ceva tulburat postat de persoana respectivă, dar nu fac nimic despre aceasta. În încercarea de a ajuta, Facebook a anunțat că își extinde utilizarea instrumentelor de inteligență artificială (AI) pentru a identifica când cineva își exprimă gândurile despre sinucidere sau auto-vătămare pe site-ul social media.
PublicitatePrezentareÎnainte de această lună, Facebook a folosit instrumentele numai pentru unii utilizatori din Statele Unite. Este disponibil pentru majoritatea celor 2 miliarde de utilizatori ai site-ului, cu excepția celor din Uniunea Europeană, care au legi mai stricte privind confidențialitatea și internetul.
Mark Zuckerberg, directorul executiv al Facebook, spune că această utilizare a AI este o evoluție pozitivă.
PublicitateRecent, a postat pe cronologia sa pe Facebook că "Numai în ultima lună, aceste instrumente AI ne-au ajutat să ne conectăm rapid cu mai mult de 100 de ori. „
Cum procedează exact acele instrumente?
PublicitatePublicitateFacebook nu dezvăluie detalii detaliate, dar se pare că instrumentul funcționează prin deplasarea prin postări sau clipuri video și semnalizarea acestora atunci când prelucrează cuvintele, videoclipurile și imaginile care pot indica o persoană cu risc de sinucidere.
Facebook utilizează deja AI într-o chestiune similară pentru a scana și elimina mesajele care prezintă pornografie infantilă și alte tipuri de conținut neadecvat.
Un reprezentant Facebook a spus Healthline că instrumentele de prevenire a sinuciderilor ajută la detectarea mai rapidă a conținutului. AI ajută și la prioritizarea rapoartelor, indicând cazurile care sunt mai serioase.
Apoi, membrii instruiți ai echipei de operațiuni comunitare Facebook revizuiesc conținutul și determină tipul de ajutor pe care îl oferă utilizatorului.
Acești membri lucrează în jurul lumii, non-stop și revizuiesc atât rapoartele din instrumentele AI, cât și utilizatorii interesați de Facebook.
PublicitatePublicitateO modalitate în care instrumentul AI detectează tendințele suicidare este acela de a solicita utilizatorilor întrebări precum: "Ești OK? " "Pot sa ajut? "Și" Aveți nevoie de ajutor? "
Echipa de operațiuni comunitare Facebook are sarcina de a revizui conținutul raportat ca fiind violent sau îngrijorător.
În luna mai, Facebook a anunțat că va adăuga încă 3 000 de angajați echipei de operațiuni, care avea la acea dată 4 500 de angajați.
PublicitatePotrivit purtătorului de cuvânt al Facebook, tehnologia ajută la detectarea conținutului și videoclipurilor pe care oamenii le publică pe Facebook de multe ori mai repede decât un prieten sau membrii ai familiei pot raporta materialul.
Atunci când acestea sunt detectate, utilizatorul Facebook este pus în contact cu Facebook Live chat de sprijin de la organizațiile de sprijin de criză prin intermediul Messenger, și posibilitatea de a chat-ul în timp real.
PublicitatePrezintaAvocatii de constientizare a suicidului la bord
In crearea AI pentru prevenirea sinuciderilor, Facebook lucreaza cu organizatii de sanatate mintala, inclusiv Save. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)" si Forefront Suicide Prevention.
Daniel J. Reidenberg, PsyD, director executiv al Salvați. org, spune că este încântat de faptul că Facebook face pași pentru a contribui la eforturile de prevenire a sinuciderilor în moduri care nu au fost făcute înainte.
"Dacă privim în ultimii 50 sau 60 de ani - fie că vorbești despre progrese în medicație sau tratament pentru sinucidere și sănătate mintală - nu am văzut reduceri sau am văzut scăpări de suicid din cauza acestor lucruri, așa că ideea că poate tehnologia poate ajuta este cea mai bună ocazie pe care o avem acum să încercăm să salvăm vieți ", a declarat Reidenberg pentru Healthline.
În timp ce el observă că instrumentele AI ar putea să nu fie pe deplin proiectate și pot prezenta fals pozitive ale persoanelor care sunt expuse riscului, el spune că este o intervenție de vârf pentru prevenirea sinuciderilor care poate dura mult timp pentru a înțelege eficacitate.
"Înainte de a veni AI, au existat false pozitive de la oameni care au raportat lucruri pe Facebook care credeau că un prieten ar putea fi sinucidere. AI accelerează doar procesul pentru a ajuta la eliminarea unora dintre acele false pozitive și pentru a ridica cu adevărat persoanele care sunt cu adevărat în pericol ", a spus Reidenberg.
PublicitateEl adaugă că oamenii manifestă semne de tendințe suicidare pe social media și că nu este nici un lucru bun sau rău.
"Social media este locul unde oamenii își trăiesc astăzi viața. Cu ani în urmă, au trăit-o în parc sau în vacanță sau și-au scris note unul altuia, pot fi împărțite la telefon. Pe măsură ce tot mai mulți oameni își trăiesc viața pe social media, aceștia împărtășesc atât momentele fericite, cât și provocările cu care se confruntă ", a spus el.
Schimbarea, adaugă el, permite oamenilor să ajungă la sute și sute de oameni la un moment dat.
Reidenberg spune că, dacă observați pe cineva de pe social media care poate fi deprimat sau cu risc de auto-vătămare, contactați-i cu un mesaj, un text sau un telefon dacă sunteți prieteni apropiați. Facebook chiar oferă texte pre-populate pentru a facilita începerea unei conversații.
Dacă nu vă simțiți confortabil cu această abordare, Reidenberg sugerează utilizarea funcției de raportare pe Facebook.
"Este un lucru ușor și rapid de făcut. Tehnologia nu poate face acest lucru singur. Avem nevoie de oameni pentru a fi implicați. Făcând ceva nu este cel mai rău posibil lucru care se poate întâmpla ", a spus el.
Cum rămâne cu problemele de confidențialitate?
Pe lângă intenția bună, este greu să nu consideri invazia vieții private.
Charles Lee Mudd Jr., un avocat pentru protecția vieții private și director la Mudd Law, spune că scanarea Facebook pentru cuvintele cheie nu ar trebui să fie considerată încălcare a confidențialității dacă a fost dezvăluită înainte.
"Atâta timp cât Facebook dezvăluie că revizuiește conținutul, nu văd nicio problemă reală de confidențialitate", a declarat Mudd Healthline. "Trebuie să înțelegem că orice lucru publicat oriunde pe internet, inclusiv prin e-mail - privat sau nu - sau social media, își poate găsi calea către destinatari neintenționați.Cel puțin dacă Facebook ne spune că are roboți care ne citesc mesajele - sau cel puțin căutăm cuvinte cheie sau expresii - ne putem adapta comportamentul, dacă este necesar. "
În timp ce Facebook este în mod legal în mod clar, dacă acționează din punct de vedere etic, este în dezbatere.
Keshav Malani, co-fondator al Powr of You, o companie care îi ajută pe oameni să facă bani din prezența lor digitală, spune că, indiferent de intențiile Facebook, fiecare persoană ar trebui să fie liberă să decidă cum sunt folosite datele sale personale.
"Sau altfel este o pantă alunecoasă pe ceea ce se consideră a fi" bună "față de utilizarea" rea "a informațiilor personale pe care le împărtășim pe platforme precum Facebook. De asemenea, intențiile nu sunt suficiente, deoarece prejudecățile din date pot duce la afirmații invalide sau dăunătoare chiar din analiza istorică de corelare istorică ", a declarat Malani pentru Healthline.
El adaugă că AI este la fel de bun ca datele pe care le primește ca intrare.
"Platformele individuale, cum ar fi Facebook, care încearcă să-și asume faptul că te cunosc destul de bine pentru a trage concluzii despre bunăstarea ta, ar fi naive. Facebook sau orice altă mass-media de știri, care acoperă doar o mică parte din viața noastră, și de multe ori pictează o imagine pe care o alegem să o împărtășim, astfel încât tragerea concluziilor dintr-o astfel de sursă de date limitată și probabil părtinitoare ar trebui făcută cu precauție extremă " el a spus.
Totuși, Reidenberg spune că oamenii nu ar trebui să se teamă de Facebook folosind AI.
"Nu este vorba despre oameni care să vadă oameni sau să intre în afaceri oamenilor", a spus el. "Folosesc tehnologia și oamenii pentru a încerca să salveze viețile oamenilor", a spus el. "Încredere-mă, dacă aveți un iubit în criză, doriți ca totul să fie făcut pentru ei, fie că sunteți într-o cameră de urgență sau online. "
De fapt, el speră că mai multe tehnologii pot interveni cu oameni în criză.
"Când cineva se află într-o criză, opțiunile și alternativele se îndepărtează de ele. Ei devin foarte concentrați asupra a ceea ce se întâmplă în acel moment și nu dispun de instrumentele necesare pentru a le trece prin ", a spus el.
Oricând tehnologia poate oferi oamenilor mai multe opțiuni, Reidenberg spune că cu cât vor fi mai puțin în criză. El ar dori ca tehnologia să creeze mai multe modalități de a identifica persoanele expuse riscului înainte de a fi chiar în pericol, de exemplu, de depresie.
De exemplu, el spune că, dacă știm că, pe măsură ce devenim mai deprimați, interacționăm mai puțin, izolați mai mult, retrageți mai mult, mai puțină energie, vorbiți și scrieți în mod diferit, apoi tehnologia de programare pentru a observa aceste schimbări ar putea fi benefice.
"Să presupunem că sunteți un poster obișnuit pe Facebook, dar atunci devii mai deprimat în viață și activitatea ta scade încet. Apoi începeți să postați poze pe Instagram de cineva foarte trist sau o zi sumbră în afara. Dacă putem obține tehnologie pentru a afla ce se întâmplă cu tine în viața ta bazată pe comportamentul tău online, am putea să începem să vă oferim lucruri ca resursele sau sprijinul și poate că o putem transforma ", a spus Reidenberg.
Zuckerberg a împărtășit un sentiment similar în postul său, făcând aluzie la planurile viitoare de a folosi AI în alte moduri.
"Putem face mult mai multe pentru a îmbunătăți acest lucru", a scris el. "În viitor, AI va fi capabil să înțeleagă mai multe nuanțe subtile ale limbajului și va fi capabil să identifice diferite probleme dincolo de sinucidere, inclusiv să observe repede mai multe tipuri de agresiune și ură. „
