Партньорство между Google Cloud и Google DeepMind (подразделението на компанията за AI проучвания) пусна нов инструмент за поставяне на воден знак и идентификация на създадени от изкуствен интелект изображения. Инструментът работи само с картинки, които са продукт на модела за генериране на изображения на Гугъл.
SynthID: модел на работа и възможности
Новата функционалност се нарича SynthID и бета версията ѝ беше пусната края на миналия месец като нова опция за избрани потребители на Vertex AI – платформата на Гугъл за създаване на приложения и модели с помощта на ИИ. Инструментът взижда цифров воден знак направо в пикселите на съответното изображение. Реално „водният знак“ е невидим за човешкото око, но алгоритъмът на инструмента може да го открие.
Функционалността върши работа само за Imagen – персонализираният асистент на Гугъл за редактиране на изображения, с помощта на AI, предлаган само във Vertex AI, който преобразува текст за създаването на изображение.
SynthID идва на бял свят, след като от американската корпорация, създала най-голямата търсачка в света дадоха заявка, че ще създадат начин за вграждане на метаданни, с които да се подава ясен сигнал, че съответната визуална медия е създадена от генеративен ИИ.
ДийпМайнд твърди, че разработеният инструмент за маркиране на генерирани от ИИ изображения, който все още подлежи на рафиниране с помощта на R&D екипа на Гугъл, може да се използва дори и след добавяне на филтри, промяна на цветове, силно компресиране и др. видове модификации.
За целта той използва 2 модела с ИИ, обучени да работят заедно върху най-разнообразен набор от изображения – единият за идентифициране намесата на AI в създаването на изображението и един за поставяне на водния знак.
SynthID е създаден да намали рисковете при ползване на AI изображения
В свое блог изявление от DeepMind коментират:
„Въпреки, че генеративният ИИ може да отключи огромен творчески потенциал, той също така представя нови рискове, като например предоставяне възможност на създателите да разпространяват фалшива информация – както умишлено, така и несъзнателно.“
„Да можеш да идентифицираш генерираното от ИИ съдържание е критична точка в овластяването на хората със знание относно това кога си взаимодействат с генерирана медия и помага за превенцията на разпространението на дезинформация.“, допълват от дъщерното дружество на Гугъл.
За момента ДийпМайнд споделят, че SynthID не може да идентифицира на 100% във всички случаи, но може да различи случаите, в които изображението може да съдържа воден знак спрямо изображение, което е много вероятно да съдържа такъв. В блог поста пише също, че инструментът може да се развие и с други AI модели за модулации извън обсега на изображенията, като например аудио, видео и текст.
От компанията споделят, че се обмисля предоставянето на достъп до инструмента и до трети страни в обозримото бъдеще.
