Британски генерал призна за участието на командоси във „високорискови операции под прикритие“ в Украйна

Кралските морски пехотинци са участвали в тайни операции в Украйна, призна за първи път висш генерал, пише The Times. Генерал-лейтенант Робърт ...

Приложението за аватари Lensa и защо съществува риск за личните данни?

През последните седмици милиони хора качиха свои собствени аватари в социалните мрежи, създадени от приложението Lensa, базирано на изкуствен интелект. Програмата съществува от 2018 г., но от съвсем скоро се радва на истинска популярност – в края на ноември, когато в приложението се появи функцията "магически аватари". След това броят на изтеглянията на Lensa по света скочи драстично: през първите 5 дни на декември приложението беше изтеглено 4 милиона пъти – двойно повече отколкото през ноември, изчисли анализаторската компания Sensor Tower. Lensa оглавява списъка на най-популярните приложения в магазините на Apple App Store и Google Play. Какво представлява приложението? Годишен абонамент за Lensa струва 35,99 долара, а пакетите с аватари се продават на допълнителна цена от 3-12 долара. През 5-те дни на декември потребителите са похарчили 8,2 млн. долара за Lensa. Един потребител качва до 10 свои снимки в близък план в приложението. Програмата изгражда модел за машинно обучение въз основа на тях, след което моделът създава изображения в различни стилове на изкуството, от аниме до "приказна принцеса". Потребителите се възхищават колко красиви и точни са се оказали техните портрети. Други ядосани споделят изображения с изкривени черти на лицето, а някои дори осакатени портрети, като например с ръце и крака, растящи направо от главите им. Има много оплаквания от чернокожи потребители: базата данни за машинно обучение, използвана от изкуствения интелект, е доминирана от снимки на хора с бяла кожа, така че портретите са изкривени. Вижте тази публикация в Instagram. Публикация, споделена от Lensa: Photo Editor by Prisma Labs (@lensa.ai) Lensa е собственост на Prisma Labs, базирана в Калифорния компания. Фирмата е най-известна със своето приложение Prisma, използващо изкуствен интелект, за да трансформира снимки в рисунки в различни артистични стилове. Неговите създатели - руснаците Андрей Усолцев и Алексей Моисеенков - са работили в Yandex. Lensa използва модели за безплатна система за машинно обучение, наречена Stable Diffusion. Моделите са обучени на милиарди комбинации от изображения от интернет. Приложението изпраща качени от потребителя снимки в своето облачно хранилище, изпълнява персонализиран модел за всеки потребител и изобразява портрета на потребителя в нови стилове. Сигурността – под въпрос? Изкривените изображения далеч не са главният проблем на Lensa. Много хора се притесняват за поверителността на снимките, които качват в приложението. Prisma Labs посочва, че компанията не споделя лични снимки или информация с трети страни. Prisma твърди, че използва само предоставени от потребителя снимки за създаване на аватари и премахва всяка партида от снимки, заедно с модела за машинно обучение, създаден за тези изображения, когато аватарът е завършен. Но правилата за поверителност, с които потребителят трябва да се съгласи, оставят възможност за споделяне на информация с други. Prisma Labs твърди, че не използва снимки или отделни модели за обучение на системи за разпознаване на лица. Но Усолцев призна, че компанията пази "най-малкото" данни от потребителски снимки, въпреки че не посочи кои. Вижте тази публикация в Instagram. Публикация, споделена от Lensa: Photo Editor by Prisma Labs (@lensa.ai) Друг проблем с поверителността на данните, за който има риск при използване на Lensa, е на друга равнина. Според експерти по изкуствен интелект гигантската колекция от изображения, наречена LAION, на която изкуственият интелект се учи, е взета от интернет. С други думи, включва изображения на хора, които не са дали съгласието си за използването на техните снимки. Един от артистите дори намери снимки от личния ѝ медицински картон в базата данни. Тя използва безплатния сайт HaveIBeenTrained.com, за да провери дали LAION разполага с нейни снимки, използващи системи за машинно обучение с изкуствен интелект. Освен това като друг проблем с Lensa се явява потенциалът за сексуална експлоатация и тормоз. Потребителите могат да качват снимки на всеки, не само на своите. Често приложението дава женски голи образи или в пози със сексуални нотки. Това се случва и с изображения на деца, въпреки че според Lensa приложението е само за хора на 13 и повече години. "Моделът Stable Diffusion е обучен върху нефилтрирано интернет съдържание, следователно отразява вкусовете на хората, включени в изображенията, които създават", гласи секцията Въпроси и отговори на уебсайта на Lensa. Вижте тази публикация в Instagram. Публикация, споделена от Lensa: Photo Editor by Prisma Labs (@lensa.ai) Експлоатация на труда на артистите Някои дигитални художници са прегърнали изкуствения интелект с готовност. Но когато аватарите на Lensa наводниха социалните мрежи, мнозина призоваха хората да помислят преди да дадат пари в приложението. "Стиловете" на Lensa се базират на истинското изкуство на реални хора, които не получават компенсация от Prisma за работата си. "Програма, която използва нашето изкуство и генерира концептуално изкуство, пречи на нашата работа", заяви Джон Лам, художник в компанията за видеоигри Riot Games. Механизмите на машинното обучение създават шаблони, а не конкретни произведения на изкуството, твърдят създателите на Lensa. Но Лам споделя, че приятелите му са загубили работата си, след като работодателите са използвали техните чертежи, за да обучат модели с изкуствен интелект. Според него художниците вече не били нужни на фирмите. В много случаи LAION използва защитени с авторски права изображения, а Prisma Labs печели от работата на авторите без съгласието им, казва художникът.

text