Pse Grok dhe X janë ende të disponueshëm në App Stores?
Në një zhvillim shqetësues, aplikacione që përdorin Grok AI për të krijuar imazhe nude nga foto të vërteta njerëzish po kalojnë në App Store dhe Google Play. Këto “nudify” apps krijojnë materiale CSAM (Child Sexual Abuse Material) dhe shkelin rregullat e dy platformave kryesore. Le të shohim më nga afër se çfarë po ndodh dhe pse kjo është një problem serioz.
Si funksionojnë këto aplikacione?
Aplikacionet “nudify” përdorin Grok AI për të:
- Hequr rrobat nga fotot e personave të vërtetë
- Krijuar imazhe realiste nude pa pëlqimin e subjektit
- Gjeneruar CSAM duke përdorur imazhe të fëmijëve
Këto apps shiten me abonime mujore dhe krijojnë miliona dollarë të ardhura, pavarësisht natyrës së tyre të paligjshme.
Dështimi i Apple dhe Google
Edhe pse të dy platformat kanë politika strikte kundër CSAM:
- Aplikacionet kalojnë në App Store pavarësisht rregullave të qarta
- Google Play po lejon të njëjtat apps të ekzistojnë
- Moderimi i AI-së është ende i dobët në të dyja platformat
Kjo tregon një boshllëk serioz në aftësinë e tyre për të zbuluar dhe bllokuar përmbajtje të rrezikshme të gjeneruara nga AI.
Për më shumë informacion rreth politikave të sigurisë së App Store, mund të vizitoni rregullat zyrtare të Apple App Store.
Rreziqet për përdoruesit dhe shoqërinë
Këto aplikacione krijojnë probleme serioze:
- Vjedhje të privatësisë dhe imazhe të paautorizuara nude
- CSAM që mund të përdoret për shantazh dhe abuzim
- Normalizimi i deepfake pornografisë
Gjithashtu, kërcënojnë besimin e publikut ndaj dy platformave më të mëdha të shpërndarjes së aplikacioneve.
Çfarë mund të bëjmë?
Për të mbrojtur veten dhe të tjerët:
- Shmangni përdorimin e çdo aplikacioni “nudify”
- Raportoni menjëherë çdo app të dyshimtë në App Store/Play Store
- Mbështesni rregullore më të rrepta për AI dhe CSAM
Mendime përfundimtare
Ky skandal me aplikacionet “nudify” të Grok tregon qartë se platformat e mëdha po dështojnë në moderimin e AI-së së rrezikshme. Është e papranueshme që aplikacione që krijojnë CSAM të lejohen të ekzistojnë në App Store dhe Google Play.
Personalisht, mendoj se kjo situatë kërkon një reagim të menjëhershëm dhe të ashpër nga Apple dhe Google. Teknologjia AI duhet të përdoret për të mirën, jo për të krijuar armë për abuzuesit dhe kriminelët. Është koha që platformat të investojnë seriozisht në moderim AI.
A jeni të shqetësuar për këtë zhvillim? Çfarë mendoni se duhet të bëjnë Apple dhe Google? Ndani mendimet tuaja në komentet më poshtë!
