오픈AI의 아성을 넘보는 생성AI서비스가 있다는것을 아시나요? 팔콘 180B (Falcon 180B)는 세계1위의 GPT-4에 비교되는 우수한 생성AI서비스입니다.
현재 한국의 Clovax(네이버), 루시아GPT(솔트룩스), 중국의 지푸AI 등 전세계에서 생성AI모델을 출시하고 있는데요.
팔콘LLM을 기반으로 한 굉장히 강력한 모델인데 아랍출신이라 그런지 국내에는 잘 알려지지 않은 것 같아 소개해 드리려고 합니다.
팔콘 LLM
팔콘 180B (Falcon 180B)은 세계에서 가장 강력한 대형언어모델로 불리는 팔콘(Falcon) LLM을 기반으로 만든 생성 AI 서비스입니다.
팔콘(Falcon) LLM은 TII(Technology innovation institute)라는 기관에서 모델인데요.
400억개의 파라미터 즉 학습데이터를 가지고 있구요. AWS의 384개의 GPU로 2개월간 트레이닝을 했다고 하는데 지금은 더 많은 데이터를 학습한 것으로 알려져 있습니다.
특이한 점은 메타의 라마를 기반으로 하지 않은 독창적인 모델이라는 점입니다.
팔콘(Falcon) LLM는 출시 초기부터 굉장히 독특하고도 유니크한 행보를 고수 했는데요. 바로 오픈소스를 공개하는 것이었습니다. 이를 통해 사용자들인 개발자들이 스스로에 맞게 서비스를 발전시켜 나갈 수 있게 열어놓은 것인데요.
이것이 바로 현재 최고의 생성AI서비스라고 불리는 오픈 AI의 챗GPT를 추월할 수 있겠다고 기대하고 있는 이유입니다.
생성 AI 서비스 (Falcon 180B)
이 모델을 만든 곳은 위에서도 말했듯, TII이라고 불리는 곳인데요. 아랍에미리트 글로벌 과학연구센터 첨단기술 연구위원회(ATRC)의 기술혁신연구소입니다.
이곳에서 처음 만들어진 아랍의 첫 생성AI서비스인 팔콘 40B (Falcon 40B)은 2023년 5월에 발표되었는데요. 이때도 오픈소스로 공개되어서 많은 화제가 되었습니다.
그런데 불과 4개월만에 고급버전인 팔콘 180B (Falcon 180B)을 출시했고, 이번엔도 오픈소스를 공개하며 팔콘이 지향하는 방향을 대중들에게 확실히 알렸습니다.
세계 정상급 성능
이번 팔콘 180B (Falcon 180B)는 정말 엄청난 성능을 자랑하는데요. 1800억개의 파라미터를 사용하고 3조 5000억개라는 천문학적인 토큰으로 학습되었다고 합니다.
TII에서 발표한 내용에 따르면 코딩, 지식테스트, 추론 등 생성AI서비스의 성능을 측정하는 다양한 벤치마크항목에서 메타가 지난 2023년 7월에 발표한 ‘라마2‘보다 우수한 성능을 보여준다고 밝혀 파장이 일기도 했습니다.
특히나 전체 생성AI 성능테스트에서 팔콘 180B (Falcon 180B)는 오픈AI의 GPT-4에 이어 2위를 차지하고 했다고 하며, 그 차이도 굉장히 근소하다고 알려져 있습니다.
가벼운 크기
여기에 결정적인 차이가 더해지는데요. 바로 크기입니다.
모두 아시다시피 ‘GPT’시리즈는 넘버를 더해갈수록 크기가 기하 급수적으로 커져서 프로그램이 무거워지는 현상이 있는데요. 팔콘 180B (Falcon 180B)은 이 문제도 해결했다고 합니다.
이를 뒷바침하는 근거로, 구글에서 출시한 생성AI서비스 ‘바드’를 구동하는 모델인 ‘Palm2 Large’와 비교해 보면 크기는 절반인대 반해 성능은 거의 비슷했다고 알려져 있습니다.
이처럼 가벼우면서 강력한 성능을 지닌 팔콘은 영어, 독일어, 스페인어 등 세계의 다양한 언어를 지원하며 세계적인 호환성을 자랑하기도 했습니다.
이 같은 점은 B2B에 최적화된 기능으로 판단되어 세계각국에서 이를 활용하려는 움직임을 보이고 있습니다.
현재 팔콘 180B (Falcon 180B)는 홈페이지에서 다운로드와 데모모델을 받아 이용해 볼 수 있도록 지원하고 있기 때문에, 연구 및 상업적 용도로 활용하실 분이 많이 찾을 것으로 예상됩니다.
