AI 모델 추론 속도 4배 전력 소비는 절반 KAIST 차세대 AI 반도체
라이더
0
111
10.17 11:47
오늘 하락 출발한 코스피가 장중 상승 전환하며 사상 최고치를 또 경신했습니다 3 790선도 돌파했는데요 자세한 시황 취재 기자 연결해 알아보겠습니다 윤형섭 기자 네 오늘 코스피는 한미 관세협상 불안과 미 증시 약세에 장 초반 약세였습니다 그러나 장중 상승 전환하며 사상 최고치를 갈아치우더니 무섭게 상승세를 타며 3 790선도 돌파했습니다
엘루크 방배 서리풀 삼성전자는 장중 9만9천원을 넘었고 SK하이닉스도 47만원을 돌파하며 나란히 역대 최고가를 새로 썼습니다 엘앤에프 삼성 SDI LG에너지솔루션 등 2차전지주가 크게 오르며 오늘 지수를 견인하고 있습니다
외국인은 4거래일 연속 순매수하고 있고 개인과 기관은 차익 실현에 매도하고 있습니다 코스닥지수도 하락 출발했지만 장중 상승세로 돌아서 870선 부근에서 움직이고 있고 원 달러 환율은 1 420원 안팎에서 오르내리고 있습니다 코스피가 상승세를 보이고 있지만 한미 관세 협상 불확실성은 여전한 상황입니다 구윤철 부총리가 한국시간으로 17일 새벽 스콧 베선트 미 재무 장관을 만나 3 500억달러 대미 투자에 관해 우리 정부의 우려 사항을 전달했지만 트럼프 대통령을 설득할 수 있을지는 미지수라고 입장을 밝혔습니다 광주 금호지구 대광로제비앙
함께 미국을 찾은 김정관 산업장관 김용범 대통령실 정책실장이 러트닉 미 상무부 장관의 관세협상을 마치며 김 실장은 2시간 동안 충분히 논의했다 고 밝혔습니다 구체적 협상 결과에 따라 우리 증시가 또 한 번 출렁일 수 있다는 관측도 나옵니다 지금까지 경제부에서 전해드렸습니다 환율 코스피 코스닥 삼성전자 SK하이닉스 관세협상연합뉴스TV 기사문의 및 제보 카톡라인 jebo23최형욱 기자 한화 이글스 타자 출신인 김태균 KBSN 스포츠 야구 해설위원이 자신의 이름을 내건 야구캠프를 연다 17일 충남 홍성군에 따르면 오는 25일 결성면 만해야구장에서 홍성군과 함께 하는 2025 김태균 야구캠프 가 개최됩니다
김태균 야구캠프는 야구 꿈나무들에게 특별한 경험을 제공하고 전현직 프로야구 선수들과의 소중한 만남을 통해 꿈을 키울 기회를 갖기 위해 마련됐습니다 지난 2023년 처음 시작된 이후 세 번째로 열리는 이번 캠프에서는 전 현직 야구선수들이 직접 코치로 참여해 전국에서 선발된 52명의 유소년 야구선수에게 포지션별 훈련과 미니 게임을 진행할 예정입니다 한화 이글스의 영구 결번이 된 김 위원의 현역 시절 등번호 52번에 맞춰 52명이 선발됐습니다 코치진에는 김 위원을 비롯해 기아 최형우 두산 정수빈 삼성 강민호 KT 고영표 허경민 키움 송성문 한화 김진영 NC 박건우 등이 참여할 예정입니다 김 위원은 현역 선수들의 경험을 바탕으로 포지션별 맞춤 훈련을 진행해 참가 선수들의 기량 향상을 돕겠다 고 말했습니다
연산 속도와 메모리 효율을 동시에 높일 수 있는 인공지능 반도체 기술 필요성이 커지는 가운데 한국과학기술원 이 거대언어모델 추론 속도는 4배 높이면서 전력 소비는 2 2배 줄인 AI 반도체 핵심 두뇌 기술을 세계 최초로 구현했습니다 국제 연구진과 함께 트랜스포머와 맘바 하이브리드 구조 기반으로 메모리 내부에서 직접 연산이 가능한 형태로 구현했습니다
KAIST는 박종세 전산학부 교수팀이 미국 조지아공대 및 스웨덴 웁살라대와 공동연구로 차세대 AI 모델 두뇌 역할을 하는 AI 메모리 반도체 기반 기술 PIMBA 를 개발했다고 17일 밝혔습니다 LLM은 모든 단어를 동시에 보는 트랜스포머 두뇌 구조가 기반입니다 이에 AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔습니다
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 맘바 구조는 시간 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만 여전히 메모리 병목 현상과 전력 소모 한계가 남아 있었습니다 연구팀은 트랜스포머 맘바 장점을 결합한 트랜스포머맘바 하이브리드 모델 성능을 극대화하기 위해 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 PIMBA 를 설계했습니다 기존 그래픽처리장치 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산하지만 PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행합니다
이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있습니다 그 결과 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4 1배 향상됐고 에너지 소비는 평균 2 2배 감소하는 성과를 보였습니다 연구 성과는 오는 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 제58회 국제 마이크로아키텍처 심포지엄 에서 발표될 예정이며 앞서 제31회 삼성휴먼테크 논문대상 금상을 수상해 우수성을 인정받았습니다
엘루크 방배 서리풀 삼성전자는 장중 9만9천원을 넘었고 SK하이닉스도 47만원을 돌파하며 나란히 역대 최고가를 새로 썼습니다 엘앤에프 삼성 SDI LG에너지솔루션 등 2차전지주가 크게 오르며 오늘 지수를 견인하고 있습니다
외국인은 4거래일 연속 순매수하고 있고 개인과 기관은 차익 실현에 매도하고 있습니다 코스닥지수도 하락 출발했지만 장중 상승세로 돌아서 870선 부근에서 움직이고 있고 원 달러 환율은 1 420원 안팎에서 오르내리고 있습니다 코스피가 상승세를 보이고 있지만 한미 관세 협상 불확실성은 여전한 상황입니다 구윤철 부총리가 한국시간으로 17일 새벽 스콧 베선트 미 재무 장관을 만나 3 500억달러 대미 투자에 관해 우리 정부의 우려 사항을 전달했지만 트럼프 대통령을 설득할 수 있을지는 미지수라고 입장을 밝혔습니다 광주 금호지구 대광로제비앙
함께 미국을 찾은 김정관 산업장관 김용범 대통령실 정책실장이 러트닉 미 상무부 장관의 관세협상을 마치며 김 실장은 2시간 동안 충분히 논의했다 고 밝혔습니다 구체적 협상 결과에 따라 우리 증시가 또 한 번 출렁일 수 있다는 관측도 나옵니다 지금까지 경제부에서 전해드렸습니다 환율 코스피 코스닥 삼성전자 SK하이닉스 관세협상연합뉴스TV 기사문의 및 제보 카톡라인 jebo23최형욱 기자 한화 이글스 타자 출신인 김태균 KBSN 스포츠 야구 해설위원이 자신의 이름을 내건 야구캠프를 연다 17일 충남 홍성군에 따르면 오는 25일 결성면 만해야구장에서 홍성군과 함께 하는 2025 김태균 야구캠프 가 개최됩니다
김태균 야구캠프는 야구 꿈나무들에게 특별한 경험을 제공하고 전현직 프로야구 선수들과의 소중한 만남을 통해 꿈을 키울 기회를 갖기 위해 마련됐습니다 지난 2023년 처음 시작된 이후 세 번째로 열리는 이번 캠프에서는 전 현직 야구선수들이 직접 코치로 참여해 전국에서 선발된 52명의 유소년 야구선수에게 포지션별 훈련과 미니 게임을 진행할 예정입니다 한화 이글스의 영구 결번이 된 김 위원의 현역 시절 등번호 52번에 맞춰 52명이 선발됐습니다 코치진에는 김 위원을 비롯해 기아 최형우 두산 정수빈 삼성 강민호 KT 고영표 허경민 키움 송성문 한화 김진영 NC 박건우 등이 참여할 예정입니다 김 위원은 현역 선수들의 경험을 바탕으로 포지션별 맞춤 훈련을 진행해 참가 선수들의 기량 향상을 돕겠다 고 말했습니다
연산 속도와 메모리 효율을 동시에 높일 수 있는 인공지능 반도체 기술 필요성이 커지는 가운데 한국과학기술원 이 거대언어모델 추론 속도는 4배 높이면서 전력 소비는 2 2배 줄인 AI 반도체 핵심 두뇌 기술을 세계 최초로 구현했습니다 국제 연구진과 함께 트랜스포머와 맘바 하이브리드 구조 기반으로 메모리 내부에서 직접 연산이 가능한 형태로 구현했습니다
KAIST는 박종세 전산학부 교수팀이 미국 조지아공대 및 스웨덴 웁살라대와 공동연구로 차세대 AI 모델 두뇌 역할을 하는 AI 메모리 반도체 기반 기술 PIMBA 를 개발했다고 17일 밝혔습니다 LLM은 모든 단어를 동시에 보는 트랜스포머 두뇌 구조가 기반입니다 이에 AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔습니다
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 맘바 구조는 시간 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만 여전히 메모리 병목 현상과 전력 소모 한계가 남아 있었습니다 연구팀은 트랜스포머 맘바 장점을 결합한 트랜스포머맘바 하이브리드 모델 성능을 극대화하기 위해 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 PIMBA 를 설계했습니다 기존 그래픽처리장치 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산하지만 PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행합니다
이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있습니다 그 결과 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4 1배 향상됐고 에너지 소비는 평균 2 2배 감소하는 성과를 보였습니다 연구 성과는 오는 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 제58회 국제 마이크로아키텍처 심포지엄 에서 발표될 예정이며 앞서 제31회 삼성휴먼테크 논문대상 금상을 수상해 우수성을 인정받았습니다
