구글이 새로운 인공지능 이미지 생성 도구인 TextFX를 출시했습니다. TextFX는 Google DeepMind 팀이 개발한 GenAI 이미지 모델인 Imagen2를 기반으로 하며 이미지 생성 및 편집을 위한 프롬프트 기반 사용자 인터페이스를 제공합니다.이는 OpenAI의 DALL-E3, Midjourney, Meta의 ImaginewithMetaAI, Microsoft Designer와 같은 도구와 다르지 않습니다. 그러나 TextFX의 고유성은 "표현"에 있습니다. 이는 사용자가 "인접 차원"에서 자신의 창작물과 아이디어를 시험해 볼 수 있도록 하는 키워드 제안 목록으로 이해할 수 있습니다.

Google은 블로그 게시물에 다음과 같이 썼습니다. "실험과 창의성을 위해 설계된 ImageFX를 사용하면 간단한 텍스트 프롬프트로 이미지를 만든 다음 Expression Chip을 사용하여 새로운 프롬프트로 쉽게 수정할 수 있습니다."

Google은 폭력적, 모욕적, 포르노 콘텐츠와 같은 "문제가 있는 출력"을 제한하기 위해 "기술적 보호 장치"를 추가하는 등 TextFX가 의도하지 않은 방식으로 사용되지 않도록 조치를 취했다고 주장합니다. TextFX는 또한 "이름이 지정된 사람"(공인일 수 있음)에 대한 프롬프트 수준 필터를 설정합니다. 하지만 Google은 언론 자료에서 이를 특별히 명확하게 밝히지 않습니다.

구글은 "우리는 처음부터 훈련 데이터 보안에 투자해 왔다"고 말했다. "또한 AI 원칙에 따라 잠재적으로 유해하고 문제가 있는 콘텐츠를 식별하고 완화하기 위해 광범위한 적대적 테스트와 레드팀 구성을 수행합니다."

추가적인 보안 조치로 Google은 ImageFX를 사용하여 생성된 이미지에 SynthID 디지털 워터마크를 표시합니다. 이는 이미지 편집 및 자르기에 대한 저항력이 매우 높다고 합니다.

구글은 블로그 게시물에서 다음과 같이 덧붙였습니다. "SynthID 워터마크는 육안으로는 보이지 않지만 식별에 사용될 수 있습니다. '이 이미지 정보'에 추가된 통찰력을 통해 Google 검색이나 Chrome에서 이미지를 볼 때 해당 이미지가 Google의 인공 지능 도구에 의해 생성되었을 가능성이 있는지 알 수 있습니다."

인공지능 실험 프로젝트를 위한 Google의 웹 앱인 AITestKitchen에서 ImageFX를 찾을 수 있습니다.

Imagen2 확장

오늘 관련 뉴스에서 Google은 이번 주부터 Imagen2를 차세대 인공 지능 검색 경험과 VertexAI 시리즈 인공 지능 관리 서비스를 포함하여 더 많은 제품과 서비스에 제공할 것이라고 밝혔습니다.

이제 Imagen2는 Google GenAI 생산성 제품군인 Workspace의 DuetAI 및 Google Ads의 텍스트-이미지 변환 기능도 지원하며 Google의 SGE(Search Generation Experience)에도 진출했습니다. SGE는 지난해 10월 구글 이미지 검색을 통해 사용자에게 이미지 생성 도구를 제공하기 시작했으며 현재는 Imagen2를 사용해 이미지를 생성하고 있다. 사용자는 원하는 이미지 종류를 설명하는 프롬프트를 입력할 수 있으며 SGE는 SGE 대화 경험 내에서 직접 4가지 결과를 반환합니다.

Imagen2의 또 다른 샘플

VertexAI에서는 API를 통해 Google Cloud 고객이 Imagen2를 사용할 수 있습니다. 다른 곳에서는 이제 Google의 AI 챗봇인 Bard를 통해 Imagen2를 사용할 수 있습니다.

Google은 다음과 같이 설명합니다. "Imagen2를 사용하면 Bard는 간단하거나 복잡한 프롬프트를 이해할 수 있으므로 다양한 고품질 이미지를 생성할 수 있습니다. '서핑 보드를 타는 개의 이미지 만들기'와 같은 설명을 입력하기만 하면 Bard가 사용자 지정의 광범위한 시각적 이미지를 생성하여 아이디어를 실현하는 데 도움이 됩니다."

Google은 Imagen2를 훈련하는 데 사용된 데이터를 아직 공개하지 않았는데 이는 놀라운 일이 아닙니다. Google과 같은 GenAI 공급업체가 공개 데이터(저작권 데이터 포함)를 기반으로 모델을 훈련한 다음 해당 모델을 상용화할 수 있는지 여부는 해결되지 않은 법적 문제입니다.

법원에서 소송이 계류 중이며 판매업체는 공정 사용 원칙에 따라 보호받고 있다고 믿습니다. 하지만 먼지가 가라앉는 데는 시간이 걸릴 것입니다.

한편 구글은 예방 차원에서 이 문제에 대해 침묵을 지키고 있다.