un blog de Radu Dumitru

►► Susține blogul cu un click la: eMAGFashion DaysFinestoreDysonFlipPC Garage. 📺 YouTube: youtube.com/NwraduBlog ◄◄

Lumea roboților: toate aceste fotografii mă sperie și ar trebui să vă sperie și pe voi…

28 Mar 2025  ·

TEHNOLOGIE  ·

15 comentarii

 

 

… pentru că sunt false.

Sunt generate de ChatGPT 4o și sunt chiar exemplele date de OpenAI, de fapt, când au anunțat că modelul 4o (cu o de la omni, nu 0 de la cifra zero) poate genera acum imagini fotorealiste. Posibilitățile sunt… nelimitate, I guess.

➡️ Prima mea reacție a fost de “blown away” la prima imagine. Dacă mi-o arătai direct, n-aș fi crezut că e falsă. Și totuși, a fost generată cu input-ul: “A wide image taken with a phone of a glass whiteboard, in a room overlooking the Bay Bridge. The field of view shows a woman writing, sporting a tshirt wiith a large OpenAI logo. The handwriting looks natural and a bit messy, and we see the photographer’s reflection.” și apoi i-au dat și întreg textul care să apară pe tablă, nu l-a pus ChatGPT de la sine.

Am văzut multe imagini fotorealiste create cu alte AI-uri, dar nu atât de fotorealiste și nici disponibile tuturor pentru o sumă modică pe lună.

➡️ A doua a fost că toate serviciile de stock photos vor avea o scădere mare a afacerilor. De fapt nu serviciile respective, care pot investi în AI-uri proprii sau cumpăra de la OpenAI, cât fotografii care făceau fotografii și le vindeau acolo. Nu mă refer musai la fotografii cu doi oameni privind răsăritul de soare de pe un deal pitoresc, deși se pot genera și acestea. Majoritatea fotografiilor stock vândute sunt cu oameni fericiți la ședințe, mâini băgând voturi în urne, pastile pe o masă, coș de picnic pe iarbă verde șamd, iar fotografii planifică întreaga scenă, fac 30 de fotografii diverse pe o temă și încearcă să le vândă pe principalele site-uri de profil.

Prompt-ul meu a fost: “o imagine fotorealistă cu doi prieteni, bărbat și femeie, care privesc răsăritul de soare de pe un deal înverzit. Dealul este la înălțime, în depărtare se văd alte dealuri și păduri, cerul are câțiva nori, soarele a răsărit cu totul dar încă este jos și iluminează cu o lumină gălbuie plăcută întreaga scenă. Câteva flori sunt într-un colț. Cele două persoane sunt excursioniști cu rucsac în spate, iar lângă ei este cortul în care au petrecut noaptea“.

Ca idee, mai jos este ce a generat Dall-E, modelul vechi, pe același prompt:

 

➡️ A treia a fost că în curând nu vom mai ști ce este adevărat și ce este fals, ce este o fotografie, cum se realizează o fotografie etc. Închipuiți-vă cum pot fi trucate fotografiile atunci când poți să-i spui exact și câte alunițe și unde să le plaseze pe corpul cuiva. Nu mă refer doar la pornografie falsă, dar inclusiv orice răufăcător sau orice corupt fotografiat pe ascuns va putea spune că imaginile sunt false și, cu suficientă muncă de rafinare, va arăta una practic identică scoasă de un AI. La fel de ușor poți truca orice și despre o persoană pe care vrei să o compromiți.

Alte prompt-uri pentru unele dintre fotografiile de mai sus:

  • “magnetic poetry on a fridge in a mid century home: Line 1: “A picture” Line 2: “is worth” Line 3: “a thousand words,”Line 4: “but sometimes” Large gap Line 5: “in the right place” Line 6: “can elevate” Line 7: “its meaning. “The man is holding the words “a few” in his right hand and “words” in his left.” (Observați că a generat fără probleme cuvintele corecte)
  • “Generate a photorealistic image of farmer’s market in toronto on a saturday in summer 2006, it’s a beautiful late june day, people are shopping and eating sandwiches. in focus should be a young asian girl wearing denim overalls and sipping on a strawberry banana smoothie – rest can be blurred. the photo should be reminiscent of that a digital camera from 2006 would take, with a timestamp like a printed photo would have. aspect ratio should be 3:2”
  • “blurry old analog film photograph, picture of parked car on side street, quiet night. “
  • “Generate a candid, Polaroid-style photograph of four diverse friends in their early 20s at a gritty dive bar. The lighting features a very harsh, direct flash, creating sharp shadows and giving the photo a very overexposed, vintage instant-camera feel. Colors should be slightly muted, evoking nostalgic, early-2000s party vibes. The aesthetic is casually emo. No border or logos or signs. There’s an interesting looking wall behind them with some light graffiti. Quality of the image should be very sharp and detailed (very little grain). The energy should be silly and chaotic. They’re either playfully grimacing, smiling, or pretending to look tough. One of them should have their friend in a silly, playful headlock. Their mouths are closed.”

Aș mai spune și că profesorii care nu folosesc astfel de unelte pierd ocazia de a învăța elevii folosind niște ilustrații bune pentru a descrie ceea ce anterior erau niște linii negre într-o carte sau doar text. OpenAI are exemple:

 

Am avut și următoarea conversație foarte interesantă după ce i-am încărcat fotografia mea de profil:

-Eu: “make this image in studio ghibli style”
-ChatGPT: “I wasn’t able to generate the image because the request didn’t follow the content policy. Specifically, creating Studio Ghibli–styled images is restricted due to their unique and copyrighted artistic style. If you’d like, I can help you create a similar animation-style portrait without directly referencing Studio Ghibli. Just say the word!

Și i-am zis “sure, go ahead” și mi-a făcut-o. N-a făcut-o bine (voiam ca aici) pentru că eu am doar ChatGPT free, care folosește modelul Dall-E, iar modelul 4o încă nu este disponibil pentru imagini și pe gratis. Dacă aveți însă planul pe bani al ChatGPT, puteți deja să vă jucați cu el.

Mai multe exemple aici și în related posts de acolo.

    15 comentarii

  1. Pai si de ce sa ne sperie? Ai fi vrut sa traiesti intr-o matrice cu grafica naspa?

      (Citează)

  2. “ar trebui sa vă sperie și pe voi”

    toți cititorii acum s-au ascuns sub pat :))

      (Citează)

  3. Arată senzațional și înfricoșător în același timp. Exemplele de planșe / infografice sunt mega utile.
    La pozele generate de tine m-aș fi prins că sunt fake pentru că nimeni nu stă să privească răsăritul cu rucsacul în spate, fără să strângă cortul înainte :)

      (Citează)

    • ok, ghiozdan ca ghiozdan, da’ rasaritu ala e mai degraba de pe marte asa portocaliu. sau un apus in cel mai bun caz.

      eu unu m-as speria daca asa ar arata rasariturile pe planeta pamant.

      later edit: aia poarta ghiozdane pentru ca asa a zis nwradu, nu a bagat cetgipiti de la el.

        (Citează)

    • GabrielG: later edit: aia poarta ghiozdane pentru ca asa a zis nwradu, nu a bagat cetgipiti de la el.

      Știu. Garbage in, garbage out.

      Să fii tu sănătos, câte răsărituri au culoarea aia…

        (Citează)

    • Daca nu a bătut vântul sigur ai condens pe cort si il strangi ultimul dimineața. Dar nu ai nici un motiv sa iti ții rucsacul in spate cât te uiți la răsărit, mai bine stai cu fundul pe el.

        (Citează)

  4. In situația aia pe munte nu ai de ce sa stai cu rucsacul in spate!

      (Citează)

  5. La prima poză dacă te uiți bine reflexia fotografului nu e realistică, tabla e orientată spre stânga, fotograful reflectat nu poate fi cel care a făcut poza, ci eventual altul care fotografiază în acelasi timp, plasat la stânga celui care face poza.
    La fel și la a doua poză, dar mai puțin evident.
    E clar că la o primă privire rapidă nu realizezi chestia asta.

      (Citează)

  6. “A doua a fost că toate serviciile de stock photos vor avea o scădere mare a afacerilor.”

    Au deja de multisor as zice, daca nu s-au reorientat. Am platit 3090-ul personal acu ~4 ani din banii de seminte scoase cu logos/stock crap generate. Si am facut asta la nivel de amator.

      (Citează)

  7. De ce sa ne sperie ChatGPT 4o cand stim cat e de incompetent. Nu stie decat sa copieze si sa alcatuiasca poze cu fragmente din alte poze, atat… Pentru cine nu ma crede i-l rog sa testeze urmatoarele 2 scenarii:
    1 pune-l sa genereze o imagine cu multe ceasuri analogice care arata de exemplu 2:20(ceva diferit de 10:10).
    2 pune-l sa genereze o imagine cu o persoana ce scrie cu mana stanga.
    Astea nu sunt bug-uri, doar ca de unde a copiat el imaginile nu sunt publicate imagini cu caracteristicile de mai sus.
    Daca era cu adevarat inteligent (si de speriat) ar fi putut sa genereze exact ce-i ceri.

      (Citează)

  8. Nu trebuie sa ne sperie dimpotriva marcate fiind ca sunt cu AI o sa creasca valoarea fotografiilor facute de om si in general tot ce e “handemade”.Dar pentru chestiute asa e tare AI nu mai zic de graphic design etc.

      (Citează)

  9. In a 4-a poza, cel care il calareste pe celalalt, pare ca are 6 degete si in rest toti au pumnul strans.
    Cel care alearga cu pungile are sacoul in spate de la alergat, dar doar punga din mana dreapta respecta legile fizicii.

      (Citează)

  10. Sunt pline rețelele sociale de poze făcute cu AI pe genunchi și de o droaie de oameni comentatori care nu-și dau seama la ce se uită. Evident că trebuie să ne sperie, nu există reglementare pentru că așa vor mai marii ca Meta și alții.

    Stați să apară video porno făcut la răzbunare de cineva și apoi să vedem câți mai sunt viteji. Știe toată lumea limitările, dar ultimele versiuni de AI generativ sunt din ce în ce mai bune. Uitați-vă la reclamele făcute cu imaginea sau cu vocea unor youtuberi mari ca MKBHD și alții. Ei nu și-au dat acordul pentru acele reclame și fac ce pot.

      (Citează)

  11. Și in afara de poze false, la ce mai e bun AI-u’ asta???

      (Citează)

    Alătură-te discuției, lasă un mesaj

    E-mail-ul nu va fi publicat. Fără înjurături și cuvinte grele, că vorbim prietenește aici. Gândiți-vă de două ori înainte de a publica. Nu o luați pe arătură doar pentru că aveți un monitor în față și nu o persoană reală.

    Apăsați pe Citează pentru a cita întreg comentariul cuiva sau selectați întâi anumite cuvinte și apăsați apoi pe Citează pentru a le prelua doar pe acelea. Link-urile către alte site-uri, dar care au legătură cu subiectul discuției, sunt ok.


    Prin trimiterea comentariului acceptați politica de confidențialitate a site-ului.



    Vreți un avatar în comentarii? Mergeți pe gravatar.com (un serviciu Wordpress) și asociați o imagine cu adresa de email cu care comentați.

    Dacă ați bifat să fiți anunțați prin email de noi comentarii sau posturi, veți primi inițial un email de confirmare. Dacă nu validați acolo alegerea, nu se va activa sistemul și după un timp nu veți mai primi nici alte emailuri

    Comentariile nu se pot edita ulterior, așa că verificați ce ați scris. Dacă vreți să mai adăugați ceva, lăsați un nou comentariu.

sus