Meta spustila kontroverznú AI novinku. Vaša profilová fotografia môže poslúžiť na vytváranie nových obrázkov
Generatívna umelá inteligencia dokáže dnes vytvárať realistické fotografie len na základe krátkeho textového zadania. Takzvané AI generátory obrázkov sa v posledných rokoch stali bežnou súčasťou internetu a využívajú ich firmy, marketéri aj bežní používatelia. Meta sa teraz rozhodla vstúpiť na tento trh s vlastným riešením. Nový nástroj Muse Image je dostupný prostredníctvom aplikácie Meta AI, webového rozhrania, služby WhatsApp a pre používateľov v USA aj v Instagram Stories. V budúcnosti sa má objaviť aj na Facebooku, v Messengeri a reklamných nástrojoch spoločnosti.
Ako Muse Image funguje?
Používateľ zadá textový pokyn, napríklad že chce vidieť človeka na pláži, v historickom kostýme alebo za volantom auta. Ak má daná osoba verejný profil na Instagrame, umelá inteligencia dokáže použiť jej profilovú fotografiu ako základ a vytvoriť úplne nový obrázok. Meta tvrdí, že systém využíva pokročilé modely umelej inteligencie, ktoré dokážu kombinovať fotografie, rozumieť zložitejším pokynom a vytvárať realistické výsledky. Používatelia môžu obrázky ďalej upravovať alebo ich zdieľať na sociálnych sieťach. Práve spôsob, akým AI pracuje s fotografiami skutočných ľudí, však vyvolal rozsiahlu kritiku.
Odborníci varujú pred zneužitím
Organizácie venujúce sa ochrane digitálnych práv upozorňujú, že podobná technológia môže byť zneužitá na vytváranie falošných alebo manipulatívnych obrázkov. Podľa odborníkov nejde len o otázku súkromia, ale aj bezpečnosti. V posledných rokoch prudko pribudli prípady takzvaných deepfake obrázkov a videí, ktoré zobrazujú skutočných ľudí v situáciách, ktoré sa nikdy nestali. Takéto materiály môžu poškodiť povesť človeka, šíriť dezinformácie alebo sa stať nástrojom obťažovania a vydierania. Mimoriadne citlivou témou sú aj nekonsenzuálne intímne obrázky vytvorené pomocou umelej inteligencie, ktorých počet podľa viacerých výskumov rýchlo rastie. Kritici preto tvrdia, že sprístupnenie podobných nástrojov širokej verejnosti prináša viac rizík než výhod.
Meta tvrdí, že používatelia majú kontrolu
Spoločnosť zdôrazňuje, že používatelia sa môžu rozhodnúť, či dovolia využívanie svojich verejných fotografií pri AI funkciách. Ak má človek verejný účet na Instagrame, môže túto možnosť vypnúť v nastaveniach aplikácie. Stačí otvoriť sekciu Sharing and Reuse a deaktivovať možnosť, ktorá povoľuje opätovné využívanie obsahu v AI funkciách spoločnosti Meta.
Používatelia so súkromným profilom túto možnosť riešiť nemusia. Ich obsah totiž nie je pre tieto funkcie dostupný. Niektorí odborníci však upozorňujú, že veľká časť používateľov o existencii takéhoto nastavenia vôbec nevie. Podľa nich by preto mal byť súhlas udeľovaný aktívne, nie formou dodatočného vypnutia funkcie.
Konkurencia medzi AI nástrojmi rastie
Muse Image prichádza v čase, keď technologické spoločnosti intenzívne súťažia vo vývoji generatívnej umelej inteligencie. Podobné nástroje už ponúkajú aj OpenAI, Google, Adobe či Midjourney. Meta sa však snaží odlíšiť tým, že prepája AI priamo so svojimi sociálnymi sieťami, ktoré využívajú miliardy ľudí po celom svete. Podľa firmy je cieľom uľahčiť tvorbu originálneho obsahu, no zároveň priznáva, že pripravuje aj ďalšie funkcie vrátane generovania videí pomocou umelej inteligencie.
Debata o súkromí bude pokračovať
Rozvoj umelej inteligencie prináša nové možnosti, ale zároveň otvára množstvo etických aj právnych otázok. Európska únia už prijala legislatívu AI Act, ktorá zavádza pravidlá pre využívanie umelej inteligencie a kladie dôraz na transparentnosť či ochranu používateľov. Aj ďalšie krajiny pripravujú prísnejšie regulácie technológií, ktoré môžu zasahovať do súkromia alebo vytvárať zavádzajúci obsah.
Záver
To, čo ešte pred pár rokmi pôsobilo ako sci-fi, je dnes dostupné na niekoľko kliknutí. Zároveň však pripomína, že technologický pokrok musí ísť ruka v ruke s ochranou súkromia a jasnými pravidlami. V opačnom prípade môže byť hranica medzi kreatívnym využitím umelej inteligencie a zneužitím osobných údajov veľmi tenká.
