지난 3월 10일 전자제품 위탁생산업체인 대만의 홍하이 정밀공업(이하 ‘폭스콘’)이 대만 최초의 인공지능(AI) 모델인 ‘폭스브레인’(Foxxbrain)을 만들었다고 밝혔다. 월스트리트저널(WSJ)에 따르면 폭스브레인은 추론 기능을 갖춘 대규모 언어모델(LLM)로, 데이터 분석과 수학, 코드 생성 등을 수행할 수 있다. 폭스콘은 AI 선두 주자인 미국 엔비디아가 대만에 있는 슈퍼컴퓨터와 기술 컨설팅을 지원해 불과 4주 만에 성공적으로 AI 모델 학습을 마쳤다고 설명했다. 폭스콘은 업계 파트너와의 협업을 위해 폭스브레인을 오픈소스화할 계획이다. 폭스콘은 새 AI 모델이 제조 및 공급망 관리의 발전을 주도할 것으로 기대하고 있다. 폭스콘의 AI 연구센터 리융후이 이사는 “이 모델에 단순히 컴퓨팅 파워를 투입한 것이 아니라 최적화된 훈련 전략을 우선시했다.”고 설명했다. 새 모델에는 엔비디아 H100 그래픽 처리장치 100개가 사용됐다. 폭스콘은 이날 폭스브레인의 일부 사양만 공개했으며, 이달 중순에 열리는 엔비디아의 연례 기술 행사에서 추가 정보를 공개할 예정이라고 밝혔다. 폭스브레인은 메타의 라마 3.1 구조를 기반으로 했으며, 고급 추론 기능을 갖추고 있는
지난 1월 17일 ‘망고부스트’는 AI(인공지능) 추론 성능과 효율성을 향상시키는 시스템 최적화 소프트웨어 ‘망고 LLM부스트’(Mango LLMBoost™)를 출시했다고 밝혔다. 망고부스트는 AI 데이터 센터 효율성을 극대화하기 위한 첨단 시스템 솔루션을 제공하는 스타트업이다. 카드, 서버, 랙을 포함한 다양한 솔루션의 핵심인 망고부스트의 데이터센터용 데이터처리가속기(DPU)는 범용 그래픽처리장치(GPU), 가속기, 스토리지 제품과 호환돼 비용 효율적이고 표준화된 AI 인프라를 구현하는 게 특징이다. 망고 LLM부스트는 시스템 스케줄 조정, 커널 최적화, 독자적인 데이터 사전패칭(Prefetching) 기술 및 최신 GPU를 최대한 활용한 모델 양자화(Quantization) 기술을 기반으로 개발됐다. 망고부스트에 따르면 해당 모델을 적용하고 거대언어모델(LLM)을 구동한 경우, 최대 12.6배의 상대적 성능이 향상되고 92%의 비용이 절감됐다. 망고부스트 관계자는 “망고부스트 LLM부스트는 경쟁 솔루션 대비 압도적인 성능 향상과 비용 절감 효과를 증명하고 있다.”며 “정식 출시 전부터 강력한 도입 의향을 보인 빅테크 해외 지사에서 도입을 앞두고 있다.”고
지난 9월 24일 인공지능(AI) 기업 코어에이아이(Kore.ai)는 생성형 인공지능(AI) 및 거대언어모델(LLM) 플랫폼 ‘게일(GALE)’을 출시했다고 밝혔다. 게일은 생성형 AI 애플리케이션(앱)을 구축하도록 지원하는 플랫폼이다. 코어에이아이는 게일은 노코드 툴세트와 직관적 인터페이스를 통해 기업에게 다양한 모델과 프롬프트를 실험할 수 있으며, 인공지능에 전문 지식이 없더라도 개발자들이 쉽게 접근이 가능해 인공지능 에이전트를 구축하고 배포하는 효율적인 방법을 제공한다고 설명했다. 기업들은 생성형 인공지능을 배포하려고 하지만, 실행적인 부분에서 다양한 어려움에 직면하고 있다. 코어에이아이(Kore.ai) 플랫폼을 기반으로 한 게일은 AI 애플리케이션 개발을 간소화하고 기업이 생성형 AI를 채택하는 속도를 가속화한다. 개발 시간을 최대 50% 단축하고 신속한 프로토 타이핑을 제공하고 기업 생태계에 통합돼 비즈니스 시스템과 원활한 통합을 보장하며 대규모 AI 구현을 지원한다고 설명하고 있다. 주요 기능으로는 ▲드래그 앤 드롭 인터페이스를 통한 복잡한 워크플로우, 앱 및 AI 에이전트를 빠르게 생성할 수 있는 ‘노코드 플로우 빌더’ ▲30여개 AI 모델(커뮤
12월 20일 지디넷 코리아는 중국언론은 량쯔웨이를 인용해 구글의 초거대 인공지능인 제미나이(Gemini)가 중국 바이두(Baidu)의 모델을 사용했다고 보도했다. 구글 버텍스 AI 플랫폼에서 제미나이에게 중국어로 ‘너는 누구니?’라는 질문을 할 경우 ‘제미나이-프로(Gemini-Pro)’가 바이두의 초거대 AI모델인 ‘어니봇’이며, 바이두가 개발한 초거대 언어 모델(LLM)이라고 대답한다는 것이다. 또한 창업자에 대해 질문할 경우 바이두의 CEO인 리옌훙이며, 바이두의 창업자 겸 회장이자 CEO라고 대답한다. 이를 보도한 량쯔웨이는 직접 제미나이-프로에 접속해 같은 질문을 했고, 제미나이-프로는 제보받은 것과 동일한 대답을 한 것을 확인했다. 또한, 제미나이-프로는 “나의 기반 기술은 바이두의 딥러닝 플랫폼 ‘패들패들(Paddle-Paddle)’이야.”라고도 답했다. 하지만 영어로 질문했을 때, 제미나이-프로는 구글의 대규모 언어모델(LLM)이며, 어니봇은 바이두의 모델이라고 답했다. 이는 기존에 어떤 정보 제공이나 사전 대화가 없이 이루어졌다고 량쯔웨이는 보도했으며, 이를 통해 중국어가 바이두의 모델로 훈련된 것으로 보인다고 보도했다. 이에 량쯔웨이는 제
지난 4월 8일 프랑스 일간지 ‘르몽드(Le Monde)’에 따르면, 경제․금융정보 서비스를 제공하는 ‘블룸버그 유한회사(Bloomberg L.P.)’가 인공지능(AI) 기반의 프로젝트를 추진 중인 것으로 보인다. 1981년 10월 1일 설립된 블룸버그 유한회사(이하 ‘블룸버그’)는 금융시장의 전문직 종사자들에게 서비스를 제공해오고 있으며, 블룸버그 터미널(Bloomberg Terminal)과 같은 금융 전용 단말기를 공급할 정도로 대규모 데이터를 축적하고 있다. 현재 존스홉킨스 대학교의 연구진과 함께 프로젝트를 진행중인 블롬버그는 500억 개의 파라미터(Parameter)가 알고리즘에 포함되어 있고 광범위한 금융 데이터가 정리되어 있다고 설명했다. 블룸버그에서 개발할 새로운 블룸버그GPT 모델은 ‘대규모 언어 모델(LLM)’을 기반으로 챗GPT(Chat GPT)에 근접할 정도로 작동한다고 설명했으며, ‘감정 속성 분석’을 통해 분석한 메시지가 기업에 긍정적인지 부정적인지를 분석할 수 있다고 설명했다. 블룸버그GPT 모델은 단말기에서 데이터를 쉽게 찾거나 정보 내용에 따라 기사 제목을 자동으로 생성도 가능하다. 다만, 범용적인 측면보다는 블룸버그 측의 편의에