제 754 호 유행하는 AI 계정과 AI 윤리 문제
최근 SNS는 AI 콘텐츠가 점령하고 있다. AI 먹방부터, AI 아바타, AI 노래, AI 광고까지. SNS에 기재되는 사진, 영상, 글의 절반 이상이 AI의 손을 거쳤다 해도 과언이 아니다.
SNS를 점령한 AI 계정
SNS를 하다 보면, AI 게시물을 쉽게 발견할 수 있다. AI 이미지에서 영상까지 영역은 넓어졌고, 먹방, 노래, 소통 등 인간이 하던 것을 대체하는 AI 인플루언서 계정도 생겨나고 있다. 유튜브 구독자 54.5만 명을 보유 중인 ‘정서불안 김햄찌’, 7.2만 인스타그램 팔로워를 보유 중인 ‘김쿼카(@k_quokka_)’, 3.4만 인스타그램 팔로워를 보유 중인 ‘92이똑히(@ttokhee_talkee)’ 등 많은 계정이 생겨나고 있다. 기획하는 ‘사람’이 AI 인플루언서 뒤에 존재하겠지만, AI 인플루언서가 인기를 끌고 유행을 선도하고 있는 것이 현재의 트렌드이다.
▲정서불안 김햄찌 유튜브(사진: https://www.youtube.com/@%EC%A0%95%EC%84%9C%EB%B6%88%EC%95%88%EA%B9%80%ED%96%84%EC%B0%8C)
AI 인플루언서 인기 이유
단순하게 AI 콘텐츠 유행의 산물로 AI 인플루언서가 등장한 것은 아니다. 명확한 타깃층이 정해져 있기 때문이다. 위에서 소개한 김햄찌는 직장인, 김쿼카는 여대생, 이똑히는 2030 여성을 타깃으로 삼고 있다. AI도 기획부터 대본 작성, 영상 제작까지 콘텐츠 제작의 모든 과정을 할 수 있어 AI 뒤에 있는 명령어를 입력하는 ‘사람’의 능력이 중요하다.
김햄찌, 김쿼카, 이똑히는 타깃층의 공감대를 정확히 건드리고 있다. 공감을 유도하는 동시에 약간의 개그 포인트를 주어, 너무 우울하거나 딱딱하지 않게 분위기를 풀어낸다. 그리고 기존 AI 콘텐츠들의 비인간적이고 인위적인 부분들을 고려하여, 진짜 계정주의 ‘자아’를 담아낸다. 어떤 음식을 좋아하는지, 어떤 스포츠팀을 응원하는지와 같이 ‘사람의 취향’을 콘텐츠에 녹여서 사람들의 거부감을 줄인다. 최신 유행하는 밈이나 말들을 사용하여 유행에 앞장서기도 한다.
광고 시장까지 평정한 AI
AI 아바타가 등장하거나, AI가 만든 음악이 BGM으로 사용되는 것처럼 광고의 한 부분으로 AI가 사용되던 시기가 있었다. 하늘을 맨몸으로 나는 장면같이 예전에는 CG로 대체하던 것들도 AI가 해결하면서, 광고 시장에서 AI의 쓰임새가 중요해졌다. 더 나아가 AI 인플루언서가 광고하는 시대가 되었다. 광고가 연예인에서 인플루언서로, 텔레비전에서 미디어로 확대된 것처럼, 앞으로 AI는 광고의 중요한 영역으로 자리잡을 것이다.
▲김쿼카의 테라 광고(사진: https://www.instagram.com/reel/DNSheu0SefG/)
AI 콘텐츠와 신뢰의 문제
▲뷰티 브랜드 이니스프리가 AI모델을 사용한 광고 이미지(사진: https://www.joongang.co.kr/article/25359522)
AI 동물이 나오는 계정은 실제 동물이 아니라는 것을 분명하게 구분할 수 있지만, 실제 사람인 줄 알고 SNS 속에서 ‘재밌다’, ‘친근하다’ 싶어 팔로우한 계정이 사실은 AI 캐릭터였다면, 소비자는 어떤 기분일까. 최근 국내 뷰티 브랜드인 이니스프리가 한 아이섀도우 제품의 광고에 AI모델을 활용했지만, 이를 별도로 고지하지 않아 SNS상에서 논란이 되었다. 실제 사용 예시가 중요한 뷰티 제품이기 때문에 소비자 여론은 ‘제품의 신뢰도가 떨어진다’는 부정적인 의견이 많았다.
광고주 입장에서는 기업이 추구하는 이미지와 컨셉을 빠르게 구현하고 비용 절감과 빠른 제작, 더불어 모델의 사생활 논란이 없다는 장점이 있지만, 보는 사람 입장에서는 정확한 정보가 표시되지 않아 ‘속은 기분’을 받을 수도 있다. 미국의 소셜 미디어 관리 플랫폼인 스프라우트 소셜(Sprout Social)은 생성형 AI가 만든 콘텐츠가 편향된 정보, 표절, 부정확한 사실을 담고 있을 경우, 소비자 피해뿐만 아니라 브랜드 평판에도 직접적으로 타격을 받게 되며 최종 책임은 브랜드에 있다고 강조했다. 스프라우트 소셜의 조사에 따르면, 소비자의 41%는 브랜드가 윤리적 기준을 어겼을 때 민감하게 반응하며, 상당수는 해당 브랜드를 더 이상 신뢰하지 않겠다고 응답했다. AI를 활용한 자동화가 도입되더라도, 소비자와의 커뮤니케이션에서 사람과 사람 간의 진정성 있는 가치가 유지되어야 한다는 것이다.
유행을 넘어 규제 준비 필요
생성형 AI 기술은 콘텐츠 산업의 판도를 바꾸고 있지만, 동시에 딥페이크, 가짜 뉴스와 같이 조작된 콘텐츠 생성에 악용되어 SNS를 통해 확산하며 사회적 혼란을 일으키고 있다. 이에 따라 각국에서 AI를 활용한 콘텐츠를 규제하는 법이 제정되고 있다.
유럽연합은 2024년 6월 AI 규제 법안을 마련했다. 유럽연합 인공지능 법(EU AI Act)은 AI 시스템을 위험 수준에 따라 분류하고, AI 정책 표준을 설정하여 기업들의 AI 개발 방식을 변화시키며, 윤리적이고 책임 있는 AI 발전에 영향을 미칠 것으로 예상된다. EU의 규제는 종종 글로벌 표준이 되는 경향이 있어, AI 법이 전 세계 AI 정책에 미칠 영향이 클 것으로 보인다. 유럽권 국가에서는 EU AI Act의 규제 집행이 함께 강화되고 있다. 스페인은 AI 생성물 미표시에 대해 최대 3천500만 유로(약 555억 825만 원) 또는 전 세계 연간 매출 7%에 해당하는 벌금을 부과한다.
한국도 제도 정비에 속도를 내고 있다. 2024년 12월 국회 본회의를 통과하여 2026년 1월에 시행 예정인 ‘AI 기본법’은 AI의 안정성과 신뢰를 확보하기 위한 법적 기반을 국내에서 처음으로 마련한 것이다. 특히 ‘고영향 인공지능’과 ‘생성형 인공지능’ 사업자에게는 몇 가지 의무를 제시한다. 먼저 AI를 사용하고 있다는 사실을 이용자에게 분명히 알리는 투명성 의무(제31조)와 기술이 안전하게 작동하도록 하는 안전성 확보 의무(제32조)가 있다. 여기에 더해 사업자는 AI가 사회적 위험을 일으키지 않도록 관리하고, 이용자를 보호하며, 반드시 사람이 직접 관리·감독하는 체계(제34조)를 갖추어야 한다. 이처럼 발 빠르게 규제 장치를 마련하는 이유는, AI가 실제 시장과 산업 및 사회에 깊숙이 영향력을 끼치고 있기 때문이다.
AI, 어디까지 나아갈까
과거에는 연예인이나 유명 인플루언서가 차지하던 자리를, 이제는 AI가 대신하며 제품 홍보를 넘어 교육, 상담, 뉴스 전달, 심지어 엔터테인먼트 산업 전반으로 영역을 넓히고 있다. 그러나 AI라는 외피를 넘어 존재하는 생성자와 소비자의 관계는 결국 사람 대 사람이라는 점을 잊어서는 안 된다. 기술을 사용하는 사람들의 투명성과 윤리적 책임의 준수가 AI 시대의 지속 가능성을 결정할 것이다.
변의정 기자, 오도연 기자
