표지 뉴스 리포터 Meng Mei Ouyang Hongyu

뷰티 필터, 과도하게 아름다운 식재 노트, AI가 합성한 가짜 제품 사진이 포함된 짧은 동영상은 최근 몇 년 동안 전자 상거래 업계에서 가장 큰 문제 중 하나인 "잘못된 버전"...... 되었습니다.

업계의 혼란에 대응하여 127월 0일 Taobao는 공식적으로 새로운 규정을 발표하여 AI 가짜 사진 거버넌스를 시작하는 데 앞장서고 AI 가짜 사진을 사용하여 소비자를 속이고 원래 브랜드 판매자의 위반을 침해하는 것을 엄격히 단속하며 원래 판매자와 소비자의 권익을 보호합니다. 동시에 Taobao는 AI 생성 이미지의 사용을 표준화하고, 제품 정보의 진위를 보장하며, AI 가짜 이미지의 포괄적인 관리에 동참한다는 이니셔티브를 전체 업계에 발표했습니다.

보고서에 따르면 플랫폼은 "일관되지 않은 재료 또는 상품 스타일", "왜곡 또는 과장 효과", "장면 부재로 인한 상품 왜곡", "컷아웃 텍스처의 명백한 왜곡" 및 기타 AI 가짜 이미지와 같은 일반적인 AI 가짜 사진 시나리오를 명확하게 식별하고 인식 모델을 출시하고 "소스 가로채기", "재고 정리" 및 "식별 알림"과 같은 조치를 통해 플랫폼의 AI 가짜 사진을 종합적으로 관리합니다.

具體而言，在商品發佈端，實時檢測和攔截失真圖片。此外，在商品詳情頁還將上線AI合成提示標識，以保障消費者的知情權。截至目前，平臺已累計攔截過度PS、AI誇大的假圖近10萬張。

이른바 AI 가짜 이미지는 AI 및 기타 기술을 사용하여 AI 허위 제품 효과, 표절 및 원본 스타일 접합, 제품 재료 또는 기능 변조, 허위 장면 위조 및 접합을 포함하되 이에 국한되지 않는 상당히 왜곡되고 일관성 없는 제품 렌더링을 합성하고 제시하는 것을 말합니다. 많은 수의 AI 가짜 이미지의 존재는 소비자를 오도하고 소비자의 알 권리를 침해할 뿐만 아니라 비즈니스 생태계를 교란하여 나쁜 돈이 좋은 돈을 몰아내게 합니다.

AI 기술은 비약적으로 발전했으며 AI가 생성한 제품 맵은 상인들에 의해 널리 사용되었습니다. 이러한 현상에 대응하기 위해 최근 중국 사이버스페이스국과 기타 4개 부서는 공동으로 "인공 지능 생성 합성 콘텐츠 식별 조치"를 발표하여 원천적인 AI 사기를 통제했습니다. AI 애플리케이션이 심해에 진입함에 따라 애플리케이션을 시급히 표준화해야 할 필요성이 대두되고 있습니다. "AI 가짜 이미지를 관리하는 것은 좋은 시작입니다. 그러나 공익을 위한 AI를 촉진하려면 사회 전체의 공동 노력이 필요하며, 지속 가능한 개발은 진정성과 무결성의 궤도에서 혁신을 제한함으로써만 달성할 수 있습니다. 라고 한 인공지능 연구원이 말했다.

"AI는 가치 판단을 가지고 있지 않을 수 있지만, AI 소비자는 판단을 해야 하고 플랫폼은 가치 지향성을 가져야 합니다." 이와 관련해 타오바오는 AI의 개발과 활용이 흑회색 산업에서 불법 이익을 위한 도구가 되어서는 안 돼 소비자 경험을 개선하고, 독창성을 촉진하며, 합법적인 상인의 권익을 보호해야 한다고 강조했다. "크로스 플랫폼 사진 도난, 모방 복사, 과도한 미화와 같은 문제는 심각하며 하나의 플랫폼만으로는 해결할 수 없습니다. 또한 제품 정보의 진위를 보장하고 업계를 품질 경쟁으로 되돌리기 위해 AI 생성 이미지의 사용을 표준화하기 위한 이니셔티브를 전체 업계에 발표했습니다. ”