구글이 최근 생성 AI 기반 검색 서비스 ‘구글 AI 오버뷰(Google AI Overview)’를 출시하면서 검색 엔진과 생성 AI 간 충돌이 가시화되고 있습니다. 사용자들이 속속 AI 오버뷰의 부정확하고 때로는 위험한 답변 사례를 공유하면서 구글은 곤욕을 치르고 있죠.
수십 년간 검색 엔진 시장을 주도해온 구글이 이제 생성 AI 기술의 약점을 직시해야 하는 상황에 봉착한 것입니다. 이번 사태를 통해 우리는 생성 AI가 검색 엔진을 대체할 수 있을지, 아니면 상호보완적 관계를 유지해야 할지에 대한 실마리를 얻을 수 있을 것 같습니다.
구글 AI 오버뷰 잘못된 답변 사례들
구글 AI 오버뷰 서비스가 출시된 지 얼마 되지 않아 사용자들은 이 서비스가 내놓은 부정확하고 위험한 답변 사례들을 SNS에 공유하기 시작했습니다.
가장 널리 회자된 사례 중 하나는 “피자에 접착제를 바르라”는 조언이었죠.
건강에 해로울 수 있는 정보가 무분별하게 제공되고 있다는 점에서 큰 위험성이 있었습니다.
또한 역사적 사실에 대한 오류도 많이 발견되었습니다.
구글 AI 오버뷰는 버락 오바마 전 대통령이 무슬림이었다거나, 미국 대통령 중 17명이 백인이었다는 등 잘못된 정보를 제공했는데, 일부 답변에는 “K”로 시작하는 아프리카 국가가 없다는 식의 지리적 오류도 포함되어 있었죠.
이외에도 “지질학자들이 하루에 돌 하나를 먹으라고 권장했다”는 엉뚱한 답변도 있었습니다.
사용자들은 이런 기괴한 답변들을 보며 크게 당혹스러워했고, 구글의 AI 서비스에 대한 신뢰가 크게 떨어지게 되었습니다.
구글은 “우리가 본 사례 중 상당수는 흔하지 않은 쿼리였으며, 조작되었거나 재현할 수 없는 사례도 있었다”고 해명했지만 이런 식의 변명은 별로 설득력이 없어 보입니다.
생성 AI 기술을 도입한 이상 기본적인 안전장치와 심층적인 사전 테스트는 필수적이었기 때문입니다.
더욱이 구글은 출시 전 1년 동안 ‘생성 AI 검색(SGE)’ 공개 테스트를 진행했다고 합니다.
그렇다면 사전에 이런 위험 요소들을 걸러내지 못한 것일까요?
아니면 단순히 기술적 완성도가 부족했던 것일까요?
어쨌든 구글은 AI 오버뷰 서비스를 통해 생성 AI의 한계를 여실히 보여주고 말았습니다.
구글의 해명과 반성
구글은 AI 오버뷰의 오답 사태에 대해 “콘텐츠 정책에 따라 적절한 경우 특정 쿼리에 대한 AI 개요를 제거하기 위해 신속한 조치를 취하고 있다”고 밝혔습니다.
실제로 구글은 SNS에 오른 오답 사례들을 수작업으로 제거하는 작업에 착수한 것으로 전해졌죠.
하지만 이런 사후 대응만으로는 근본적인 해결책이 되기 어려워 보입니다.
생성 AI 기술 자체에 내재된 오류 가능성을 줄이는 노력이 뒷받침되어야 할 것입니다.
또한 단정적인 답변 대신 다양한 정보원을 제시하고 사용자가 스스로 판단할 수 있게 하는 보조 수단으로 활용하는 방안도 고려해볼 만합니다.
일각에서는 구글이 AI 오버뷰 서비스를 일시 중단할 것이라는 예측도 나오고 있습니다.
지난해 ‘제미나이’ 이미지 생성 서비스에서 문제가 생겨 서비스를 중단했던 전례가 있기 때문이죠.
하지만 이렇게 된다면 구글이 수년간 준비해온 생성 AI 사업 자체가 큰 타격을 입게 될 것입니다.
이번 사태로 구글은 생성 AI 기술의 현주소와 한계를 여실히 보여주게 되었습니다.
앞으로 구글이 어떤 방식으로 대응하느냐에 따라 생성 AI와 검색 서비스의 진로가 결정될 것으로 보입니다.
단기적으로는 고전을 면치 못할 수 있겠지만, 장기적으로는 이번 일을 계기로 생성 AI와 검색엔진이 상호보완적 관계를 정립해 나가기를 기대해봅니다.
영화 퓨리오사에 활용된 생성 AI
최근 개봉한 영화 ‘퓨리오사: 매드맥스 사가‘에서 생성 AI 기술이 활용된 사례가 알려지면서 관심이 쏠리고 있습니다.
이 영화에서는 주연 배우 안야 테일러-조이의 아역 시절 모습을 표현하기 위해 아역 배우 알리야 브라운의 얼굴에 테일러-조이의 얼굴 특징을 AI로 합성했다고 합니다.
물론 이렇게 AI 기술을 영화에 활용하는 데에는 여러 가지 윤리적 쟁점들이 제기될 수 있는데요.
우선 배우들의 동의 없이 그들의 초상권을 침해할 가능성이 있고, 또한 AI가 실제 배우들의 일자리를 대체할 수 있다는 우려의 목소리도 있습니다.
실제로 얼마전에는 스칼렛 요한슨이 오픈 ai의 목소리 참여 제안에 거절했는데, GPT-4o에 자신의 목소리와 유사한 음성이 서비스에 학습되어 있는 것을 보고 매우 분노하고 있으며 이에 관해 오픈 ai의 무분별한 데이터 학습에 대해 많은 논란이 일어나고 있습니다.
하지만 영화계 일각에서는 AI 기술을 포용하고 창의적으로 활용해 나가는 것이 바람직하다는 견해도 있습니다.
조지 루카스 감독은 최근 “AI에 반대한다고 해서 세상이 그렇게 돌아가지는 않는다”며 AI 기술 도입을 적극 수용할 것을 주문했습니다.
스칼렛 요한슨 사례로 인해 AI 이미지 생성 기술에 대한 경계심이 높아진 것도 사실이지만, 영화계에서는 AI 기술을 차별화된 표현 수단으로 활용해 나갈 것으로 예상됩니다.
실제로 올해 개봉 예정작 ‘히어(Here)’ 등에서도 AI 기술이 활용된 것으로 알려졌습니다.
결국 AI 기술 활용의 성패 여부는 이를 어떤 방식으로 활용하느냐에 달려 있을 것 같은데요.
과도한 AI 의존은 경계해야 하지만, 창의적이고 보조적인 활용 방안을 모색한다면 영화 예술에 새로운 지평을 열 수도 있을 것 같아 어느쪽이 맞다 틀리다 이야기 하기가 참 어려운 것 같아요.
앞으로 우리는 AI 기술이 영화계에 미칠 영향에 대해 더 관심을 가지고 적극적인 의견을 피력하는게 좋을 것 같다는 생각을 해봅니다.
생성 AI vs 검색 엔진: 함께할 수는 없니?
지금까지 살펴본 바와 같이 생성 AI 기술과 기존 검색 엔진 간에는 상충되는 지점들이 있습니다.
구글 AI 개요 사례에서 보듯 생성 AI는 아직 완전히 신뢰할 수 있는 수준은 아니며, 검증되지 않은 정보를 제공할 위험이 있는 반면 검색 엔진은 웹 상의 정보를 단순히 나열하는 수준에 그치는 한계가 있다는 점에서 그렇습니다.
이렇게 볼 때 생성 AI와 검색 엔진이 상호 보완적인 관계를 맺는 것이 가장 이상적일 것 같습니다.
검색 엔진이 웹 정보들을 제공하고, 생성 AI가 이를 체계적으로 정리하고 요약하는 식으로 말이죠.
생성 AI는 또한 검색 결과의 다양성을 높이고 창의적인 아이디어를 제시하는 역할도 할 수 있을 것입니다.
물론 이 과정에서 생성 AI가 내놓는 오답 가능성을 최소화하기 위한 엄격한 검증 절차와 안전장치가 필수적입니다.
그렇지 않으면 구글 AI 오버뷰 사태와 같은 일이 반복될 수밖에 없기 때문입니다.
따라서 생성 AI 기술을 보조 수단으로 활용하되, 최종 판단은 사용자에게 맡기는 것이 현명할 것 같습니다.
이를 위해서는 생성 AI 알고리즘 자체의 신뢰성을 높이고, 검색 엔진과의 연동을 원활히 해야 합니다.
또한 단정적인 답변을 최소화하고 다양한 정보와 해석의 가능성을 제시하는 방향으로 나아가야 할 것입니다.
새로운 기술의 등장은 불가피한 만큼, 이를 어떻게 현명하게 활용할지에 대한 고민이 필요한 시점입니다.
결국 생성 AI와 검색 엔진이 상생하려면 AI 기술의 발전과 인간의 지혜로운 판단력이 병행되어야 할 것입니다.
이렇게 보면 구글 AI 오버뷰 사례는 이를 위해 반드시 넘어야 할 시행착오 과정이었다고 볼 수도 있을 것 같아요.
생성 AI 기술의 올바른 활용 방안을 모색하며 새로운 지능정보 생태계를 만들어가는 것,
그것이 우리가 나아갈 방향이 되어야 하지 않을까요?
