Amazon SageMaker AI에서 지식 증류를 활용한 효율적인 에이전트 구축
최첨단 모델을 기반으로 구축된 에이전틱 어시스턴트는 다중 단계 툴 루프를 실행하며, 모든 단계마다 최첨단 가격을 지불하는 것은 프로덕션 규모에서 지속하기 어렵습니다. 이 게시글에서는 시퀀스 수준 지식 증류(SeqKD)를 사용하여 최첨단 트레이너의 에이전틱 행동을 Amazon SageMaker AI의 소규모 저비용 학생 모델로 전달하는 방법을 보여줍니다.
제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
최첨단 모델을 기반으로 구축된 에이전틱 어시스턴트는 다중 단계 툴 루프를 실행하며, 모든 단계마다 최첨단 가격을 지불하는 것은 프로덕션 규모에서 지속하기 어렵습니다. 이 게시글에서는 시퀀스 수준 지식 증류(SeqKD)를 사용하여 최첨단 트레이너의 에이전틱 행동을 Amazon SageMaker AI의 소규모 저비용 학생 모델로 전달하는 방법을 보여줍니다.
LLM은 비전 모델에 대해 어떻게 생각할까요?
오늘날의 AI 모델은 그 어느 때보다도 더 강력합니다. 하지만 여전히 부족한 점은 비즈니스...
자율 에이전트를 구축하려면 모델, 하드웨어 및 도메인 특화 도구가 필요합니다. 에이전트를 보다 안전하게 배포하려면 개발자는 강제 적용하는 런타임이 필요합니다...
Mistral의 오픈 웨이트 릴리스, 프론티어 모니터링, 그리고 그날의 AI 트위터와 레딧 요약.
소비자를 위한 인공지능 비서를 개발하는 와비 주식회사는 오늘 시드 투자 라운드에서 5,500만 달러를 조달했다고 발표했습니다. IVP가 이 시드 라운드를 주도했으며, 아마존 알렉사 펀드, 안드레센 호로위츠, 포어러너 등이 참여했습니다. 또한 세일즈포스 주식회사의 CEO 마크 베니오프와 쇼피파이 주식회사의 CEO 토비 뤼트케를 포함한 엔젤 투자자 그룹도 함께했습니다. 이 기사의 원문은 “와비, 소비자 지향형 인공지능 비서를 위해 5,500만 달러 유치”라는 제목으로 실리콘 앵글에 처음 게재되었습니다.
소식통들은 WIRED에 따르면, 액센추어 직원의 개인용 Claude 에이전트가 발견되어 취약점이 패치되기 전까지 두 달 동안 미 국방부 네트워크에서 실행되었다고 밝혔습니다.
미스트랄 AI SAS는 오늘, 자사의 최첨단 모델인 미스트랄 라지 4의 오픈 가중치를 공개했다고 발표했다. 이 모델은 ‘르 총크’라는 별칭으로 불리며, 회사가 지금까지 출시한 대규모 언어 모델 중 가장 뛰어난 성능을 지닌 제품으로, 처음에는 3주 전 프리뷰 버전으로 선보였다. 1조 개의 매개변수와 520억 개의 활성 매개변수를 갖춘 ML4는 기본적으로 멀티모달이며, 추가로 세 차례의 […] 글: 미스트랄, 미스트랄 라지 4의 오픈 가중치 공개로 자사 ‘르 총크’ AI 모델에 대한 주권적 통제 제공은 SiliconANGLE에 처음 게재되었습니다.
## 새로운 모델 ### Mistral Large 4 (Le Chonk) Mistral Large 4는 현재까지 Mistral이 개발한 모델 중 가장 크고 가장 강력한 모델로, 1조 개의 파라미터를 갖춘 네이티브 다중모달 전문가 혼합 모델이며, 토큰당 490억 개의 활성 파라미터(임베딩 및 출력층 포함 시 520억 개)를 가지고 있습니다. 이 모델은 유럽에 위치한 Mistral의 자체 데이터센터에서 NVIDIA Grace Blackwell GPU 3,800개를 사용하여 처음부터 학습되었습니다. Mistral Large 4는 지시사항 준수, 추론, 코딩 및 에이전트 기반 워크플로우를 단일 가중치 세트로 통합합니다. 범용 모델이지만 특히 사이버보안, 금융, 법률 등 다양한 작업 부하에서 뛰어난 성능을 보이며, 이미지 기반 언어 이해에서도 최첨단 폐쇄형 모델들을 능가합니다. 또한 유럽연합의 모든 공식 언어를 포함해 160여 개 이상의 언어에 대해 원활한 구사 능력을 갖추고 있습니다. #### 주요 특징 Mistral Large
프랑스의 AI 연구소는 자사의 최신 버전이 코딩 및 사이버 보안 분야에서 심지어 DeepSeek와 Z.ai의 최고 수준 모델들과도 동등하거나 그 이상의 성능을 발휘한다고 주장한다.
Mistral Large 4 (Le Chonk)의 가중치가 이제 공개되었습니다. 1조 개의 파라미터를 갖춘 다중 모달 모델로, 코딩 분야에서 가장 우수한 오픈 가중치 모델이며 유럽에서 훈련되었습니다.
GitHub Copilot Fusion이 일반에 공개되었습니다. 각 작업마다 개별 모델을 선택하는 대신, Copilot Fusion을 선택하면 Copilot이 지능적으로 어떤 모델을 사용할지 라우팅하고 오케스트레이션해 줍니다.… 글 ‘GitHub Copilot Fusion으로 모델을 라우팅하고 오케스트레이션하세요’는 The GitHub Blog에 처음 게재되었습니다.
모든 제조업체에는 고유한 산업 지능이 있습니다. 일부는 문서화되어 있으며, 일부는 숙련된 작업자의 경험과 지식에 담겨 있습니다. 예를 들어, 교체 작업 후 라인을 재가동하려는 숙련된 운영자를 생각해 보십시오. 기계 설정도 중요하지만, 특정 소재가 어떻게 반응하는지, 이전 교대 시간에 어떤 일이 있었는지, 그리고 겉보기에는 사소해 보이는…
arXiv:2610.33062v1 발표 유형: 신규 초록: 통합 대규모 다중 모달 모델(ULMM)은 텍스트-이미지 교차 생성을 통해 시각적 추론을 수행할 수 있지만, 명시적인 중간 이미지를 생성하는 데에는 상당한 계산 부하가 발생합니다. 시각 잠재 공간 추론이 이 문제를 해결하긴 하지만, 기존의 대부분 방법은 시각 생성이 불가능한 시각-언어 모델(VLM)에 의존하고 있습니다. 우리는 ULMM에서 잠재적 시각 추론을 가능하게 하는 새로운 프레임워크인 Oddin을 제안합니다. Oddin은 중간 이미지를 간결한 잠재 토큰으로 대체하며, 이를 이해 분기에서 전적으로 처리하도록 하고, 생성 분기는 최종 출력 이미지 생성에만 할애합니다. 우리는 세 가지 목표—최종 이미지 생성 손실, 텍스트 증류 손실, 그리고 교차 엔트로피 손실—을 포함한 오프라인 자기 증류 방식으로 모델을 학습합니다.
OpenAI 그룹 PBC는 오늘 프런티어 인공지능 시스템 라인업 중간급 모델의 업그레이드 버전인 GPT-6.1 테라를 공개했습니다. GTP-5.6 테라의 후속 모델인 이 새로운 모델은 비용이 약 50% 저렴하면서도 컴퓨터 활용 작업을 더 빠르고 더 높은 정확도로 처리합니다. 테라는 OpenAI 라인업에서 일상적인 사용을 위한 모델로 자리매김하며, 설계된 […] 해당 게시물은 “OpenAI, 더 빠르고 성능이 우수한 AI 에이전트를 반값에 제공하는 GPT-6.1 테라 출시”라는 제목으로 SiliconANGLE에 처음 게재되었습니다.
오늘은 워크스테이션용 ASRock의 고급형 Radeon AI 추론 카드인 Creator Radeon AI Pro R9700을 살펴봅니다. 32GB의 RAM과 1,700달러의 가격대를 갖춘 이 카드는 로컬 AI 추론을 위한 워크스테이션을 구성하는 데 있어 매우 합리적인 선택입니다. 본 글 ‘ASRock Creator Radeon AI Pro R9700 리뷰: AMD 스타일의 워크스테이션 추론’은 ServeTheHome에 처음 게재되었습니다.
Anthropic의 S-1 서류에 따르면, 10만 달러 이상의 고객 중 절반 이상이 현재 Claude 플랫폼과 자사 애플리케이션을 모두 사용하고 있으며, 이는 기업 고객의 충성도를 높이는 데 기여하는 아마존식 교차 판매 전략을 연상시킵니다.
Anthropic은 “루프를 닫는 것”이 AI 성공으로 가는 최선의 길이자, 인류에 대한 “존재론적” 위협을 초래하는 원인이라고 생각합니다.
인공지능 분야의 거대 기업 앤트로픽 PBC는 오늘 미국 증권거래위원회에 기업공개(IPO) 신청 서류를 제출했으며, 고도화된 인공지능에 대한 경고가 제기되는 가운데 앞으로 있을 인공지능 개발업체들의 주식시장 최대 규모 데뷔로 이어질 전망이다. 앤트로픽은 서류에서 상장 계획을 밝혔다[…] 해당 게시물 ‘앤트로픽, 예정된 IPO를 위한 S-1 서류 제출’은 실리콘앵글에 처음 게재되었다.
인공지능 분야의 거대 기업 앤트로픽 PBC는 오늘 미국 증권거래위원회에 기업공개(IPO) 신청 서류를 제출했으며, 고도화된 인공지능에 대한 경고가 제기되는 가운데 앞으로 나올 인공지능 개발사 중 가장 규모가 큰 주식시장 데뷔를 앞두고 있다. 앤트로픽은 제출한 서류에서 […]에 상장할 계획이라고 밝혔다. 해당 게시물 ‘앤트로픽, 대규모 인공지능 IPO를 위한 S-1 서류 제출’은 실리콘앵글에 처음 게재되었다.