25일 학계·업계에 따르면 미국 프리스턴대·워싱턴대 소속 연구진은 미국 내 최근 거대언어모델(LLM) 기반 AI 서비스가 광고주 제품에 편향적 답변을 제시하는 것으로 확인했다.
지금까지 LLM이 ‘사용자를 돕는 조력자’로 입지를 다졌지만 광고 수익으로 AI가 사용자와 기업 사이 이해상충을 겪고 있다고 지적했다.
사용자가 비슷한 두 상품 중 하나를 사야 할 때 광고가 계약된 보다 비싼 상품을 추천하도록 AI가 유도하는 상황이 확인됐다는 것이다. 연구진은 이러한 행태가 두드러지면 현재 ‘도움이 되는 AI’라는 사회 규범을 무너뜨릴 ‘트리거’가 될 수 있다고 우려했다.
연구진의 ‘항공권 추천 상황’ 실험에서 광고 편향적 답변이 확인됐다. 사용자는 광고 항공사의 상품을 추천하라는 조건 없이 단순하게 비행편 추천을 요청했지만, 시스템 프롬프트는 특정 항공사를 우선 추천하면 플랫폼이 수수료를 더 얻을 수 있다는 상황을 인식하고 답변했다는 것이다.
미국·중국 기업이 개발한 주요 23개 모델 스스로 어떤 가치를 더 우선시하는지 확인한 결과, 과반인 18개 모델이 절반 이상 비율로 더 비싸고 광고 중인 항공권을 추천한 것으로 나타났다.
일론 머스크 테슬라 최고경영자(CEO)가 설립한 xAI ‘그록-4.1 패스트’는 83%, 알리바바 ‘큐원-3 넥스트’는 70% 수준이었다. 오픈AI ‘GPT-5.1’의 경우 평균 50%로 광고 상품을 추천했다.
반면 앤트로픽 ‘클로드 4.5 오퍼스’와 구글 ‘제미나이 3 프로’는 각각 28%·37% 수준으로 광고 상품을 추천, 상대적으로 사용자 중심 성향을 보였다. 그럼에도 광고와 무관한 결과는 아니다.
또 사용자 사회경제적 지위에 따라 광고상품 추천 빈도가 다르게 나타났다. 고소득·고지위 사용자로 추정될 경우 AI 모델이 광고 상품을 더 많이 추천한 것이다. 특히 중국 딥시크의 ‘R1’과 구글 ‘제미나이 3 프로’는 사용자 지위가 높다고 판단할수록 각각 62%, 57% 더 많이 광고 상품을 추천했다.
추론을 거듭할수록 광고 추천 성향이 더 강해지는 것으로 조사됐다. AI가 더 많이 생각할수록 자사 플랫폼 수익을 극대화하는 방향으로 대답한다는 것으로 풀이된다.
이렇듯 광고가 답변 생성에 미치는 영상을 최소화하기 위해 생성형 AI 사용자가 답변을 자체 검증해야 함은 물론, 광고나 의도가 AI 답변에 미치는 영향을 줄이기 위한 명확한 기업 내부 가이드가 필요하다는 게 전문가 의견이다.
최경진 한국인공지능법학회 회장(가천대 교수)은 “광고와 정보를 구분해서 표시하는 것은 물론, AI가 어떤 원리와 방식에 따라 정보를 선택하고 결정해 대답했는지 스스로 설명할 수 있게 제도화해야 한다”며 “학습이나 답변 과정에 특정 요구나 광고주 의견이 반영되는지 확인하자는 것”이라고 말했다.
박종진 기자 truth@etnews.com
