Aplicația Lensa AI cu Magic Avatar: nu doar că le dai dreptul să facă ce vor cu fața ta, dar le dai și bani pentru asta

Aplicația Lensa de făcut avataruri sub formă de grafică digitală, după ce tu încarci vreo 10-20 de selfie-uri de-ale tale, este foarte populară. Dacă mă iau după Instagram-ul meu, pare că majoritatea oamenilor au descărcat-o și o folosesc. Și nu-i tocmai ieftină, înțeleg că te costă 20 de lei treaba asta.

Sistemul ia selfie-urile încărcate de tine și generează apoi câteva imagini în stil de artă digitală, uneori cu tot felul de tematici fantasy. Face asta folosind o inteligență artificială care, pe scurt, analizează artă digitală și apoi se prinde cum să modifice selfie-ul tău în acel stil. Găsiți exemple pe contul oficial.

Partea nasoală este în continuare. Odată ce încarci fotografiile tale, cele digitale generate, practic portretul tău sub formă grafică, devin ale companiei:

Lensa may allow you to upload, edit, create, store and share content, including photos and videos (“User Content”). We do not claim ownership over your User Content. However, in order to provide you with the services (e.g., to make our services accessible to you), we seek a legal permission from you to use your User Content. You give us such a permission by means of a Company License, as defined below.

Solely for the purposes of operating or improving Lensa, you grant us a perpetual, irrevocable, nonexclusive, royalty-free, worldwide, fully-paid, transferable, sub-licensable license to use, reproduce, modify, distribute, create derivative works of your User Content, without any additional compensation to you and always subject to your additional explicit consent for such use where required by applicable law and as stated in our Privacy Policy (the “Company License”).The Company License is for the limited purpose of operating Lensa and improving our existing and new products, including but not limited to training Lensa’s AI within your Use of Magic Avatars feature of the application or if otherwise implied by the Using of Lensa and its services, unless you have provided us your additional explicit consent for the different purpose where required by applicable law. The Company License terminates when you delete the User Content from Lensa’s library or by terminating your account.

By posting User Content publicly including, but not limited, to tagging Lensa or Company on social media (through direct mentioning or via a hashtag), you grant to the Company a worldwide, non-exclusive, royalty-free, sublicensable, revocable and transferable license to use that User Content, and namely reproduce, distribute, modify, create derivative works, publicly display and publicly perform or otherwise use that respective User Content or any of its part, for the purpose of promoting and advertising Lensa and the Company’s services (“marketing license”). You may revoke this marketing license anytime by contacting us at [contact@lensa-ai.com]. (sursa)

Scrie mare acolo: le dai o licență perpetuă, irevocabilă, gratuită, transferabilă oricui vor ei, de a face orice vor cu respectivele imagini. Le pot reproduce, modifica, distribui unde vor ei.

Atenție că nu este vorba de fotografia încărcată de tine în aplicație. Aceea, conform Terms and Conditions, este folosită doar pentru a genera portretul tău în formă grafică și apoi este ștearsă. Portretul tău în formă grafică, însă, este oricum atât de detaliat încât oricine te recunoaște în el. Este tot fața ta acolo, chiar dacă stilizată și colorizată diferit, uneori cu schimbări minime.

Uitați mai jos câteva exemple, primele care mi-au ieșit în față pe Instagram la această oră. Cred că puteți recunoaște oamenii chiar dacă nu sunt fotografii reale, ci grafică:

(links: unu, doi, trei, patru)

Imaginile acelea computerizate sunt ale aplicației Lensa și ale companiei-mamă, numită Prism, pot face ce vor cu ele. Fața ta ar putea ajunge pe reclame în oraș pentru diverse produse, ar putea ajunge în jocuri, ar putea ajunge in filme (poate că producătorii filmelor cumpără direct fețe pentru personaje din Avatar 4, nu stau ei să le deseneze de la zero), ar putea fi folosită ca reclamă pentru serviciile Lensa și AI-urile lor în viitor. Și tu nu primești nimic pentru asta.

Ba chiar, dacă tragem linie, le-ai dat bani odată cu selfie-urile tale, că funcția Magic Avatars este oferită contra-cost. Vreo 20 de lei costă one-time use. Așa că de fapt tu le dai lor bani împreună cu dreptul de a face apoi ce vor cu fața ta “desenată”.

Mai mult, inclusiv selfie-urile tale originale, care sunt șterse ulterior, întâi sunt folosite pentru a antrena AI-ul folosit de Lensa ca să genereze grafica finală. Fotografiile tale le dau lor ocazia de a-și îmbunătăți sistemele AI pe care apoi le vând în paralel altora pe mulți bani, la nivel enterprise. Și le mai dai și 20 de lei împreună cu asta, plus dreptul de a face ce vor cu chipul tău desenat.

Și apropo, Lensa oricum face o mulțime de bani. Are milioane de downloads în ultimele două luni. Înmulțiți asta cu măcar 4 dolari de căciulă.

Problemele nu se opresc aici.

În Privacy policy, Lensa descrie cum procesează inițial fotografiile pe care le încărcați din telefon:

For Use of Lensa you may provide us and upload to Lensa your face images (photo or video). In order to make possible for you to Use certain functions of Lensa, we will process (provided by you) human face images (photo or video) through TrueDepth API technologies that will provide us information about such human faces’ position, orientation and their topology on your image and/or video frame.

Acolo scrie de fapt că Lensa nu ia fața ta în sensul clasic, o colecție de pixeli de diverse culori, ci o traduce întâi în format matematic. Îi determină ecuația, ca să zic așa, îi face o hartă matematică, ceea ce mie mi se pare chiar mai rău.

Ca analogie, nu le dați o fotografie a feței voastre, le dați chiar codul ADN din care ei o pot clona oricând după aceea. Această ecuație matematică generată pe baza feței tale poate fi apoi folosită pentru a compara mult mai ușor dacă același om apare în mai multe fotografii, poate fi folosită pentru a introduce mici variațiuni în “topografia” feței șamd.

O a doua problemă este că acele avataruri sunt generate apoi de o tehnică AI numită Stable Diffusion. Pe scurt, este un AI căruia îi dai 1.000 de imagini cu prințese sau cu androizi și, analizându-le pe toate, își cam dă seama cum arată în general o prințesă sau un android. AI-ul este apoi capabil să ia figura reală a unui om și să o modifice și să o integreze în haine de prințesă sau android sau altceva.

Creatorii Stable Diffusion sunt acuzați că au “hrănit” AI-ul cu seturi de date obținute ilegal prin scrapping de milioane de imagini de pe Deviant Art și alte site-uri similare. Practic, au luat munca unor graficieni sau pasionați de desen, muncă pusă pe net de obicei sub licență non-comercială, au învățat un AI să deseneze prințese sau androizi și acum acesta ia banii de la utilizatori.

Costumul acela steampunk mișto în care te-a îmbrăcat Lensa într-o imagine probabil a fost desenat de cineva real sau este o îmbinare din 3-4 desene diferite, eventual cu câteva modificări pentru că AI-ul Stable Diffusion este foarte bun la astfel de îmbinări și modificări stil photoshop. La bază, însă, are seturi de imagini obținute ilegal sau măcar dintr-o zonă gri a Internetului.

Măcar compania-mamă, Prism, este americană, cu servere în California, cu datele stocate în SUA. Asta este mai bine decât mania FaceApp care cuprinsese Instagramul acum trei ani, aplicație făcută atunci de niște ruși și care strângeau astfel fețele a milioane de oameni și le dădeau înapoi o fotografie ce-i înfățișa mai îmbătrâniți. Prism și Lensa spun că sunt GDPR-compliant, că șterg fotografiile tale de pe servere și că nu le folosesc în alte scopuri decât pentru a-ți genera acele desene animate. Sigur, cu desenele animate pot face ei ce vor după aceea, chit că tu ești “digitizat” în ele, ba chiar le mai dai și bani pentru asta, dar da, nu încalcă vreo lege.

O să închei cu ce-am spus și acum trei ani la FaceApp: nu le mai dați altora atât de ușor acces la imaginea voastră, în special în schimbul unor fotografii pentru o modă efemeră. Sau măcar de v-ar plăti ei pentru asta, nu invers.