카이스트 미친 기술 개발 ㄷㄷㄷ.jpg

국내 연구진이 스마트폰 내에서 인공지능(AI) 모델을 학습시킬 수 있는 ‘온디바이스 AI’를 개발했다.
17일 유회준 카이스트(KAIST) 인공지능반도체대학원 교수팀은 사용자의 특성에 맞춰 스스로 진화하는 거대언어모델(LLM) 반도체 ‘소울메이트’를 개발했다고 밝혔다. 연구진은 소울메이트에 대해 “클라우드 서버를 거치지 않고 기기 자체에서 추론과 학습이 가능한 세계 최초의 온디바이스 AI”라고 설명했다.
기존 AI 서비스들은 데이터를 클라우드 서버로 보내는 과정에서 개인정보 유출, 네트워크 지연 등의 문제가 발생했다. 소울메이트는 기기 밖으로 정보를 전송하지 않아도 초개인화된 AI 에이전트를 만들 수 있다는 게 특징이다. 연구진은 사용자의 대화 내용을 기억해 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자의 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA)기술을 반도체 내부에 구현했다.
기존 AI가 학습 데이터와 사용자의 정보를 매칭하는 것에서 그쳤다면, 소울메이트는 추가 학습을 통해 초개인화된 AI 구현을 목표로 한다. 유 교수는 “챗GPT 같은 AI는 데이터센터에서 학습한 대로 응답한다. 소울메이트는 오직 사용자 정보로만 학습된 나만의 AI를 만들 수 있다는 게 차별점”이라고 말했다.
온디바이스 AI는 클라우드 의존성 문제를 해결할 신기술로 주목받고 있다. 하지만 일반적으로 LLM 모델에는 약 100억개 이상의 파라미터와 8GB 이상의 대용량 메모리가 필요한데, 기기가 감당할 수 있는 전력과 연산량에는 한계가 있었다.
연구진은 토큰(단어)의 중요도에 따라 가중치를 달리하는 혼합 랭크 아키텍처를 적용해 연산의 효율성을 높였다. 중요한 내용은 더 많이, 중요하지 않은 내용은 적게 연산하는 식이다. 또 사용자 피드백을 학습하는 과정에서 문장 간의 유사성을 파악해 중복된 연산을 생략함으로써 에너지 소모를 줄였다. 연구진은 기존 기술 대비 응답 지연은 최대 82.5% 에너지 효율은 76.2%까지 개선했다고 밝혔다. 그 결과 소울메이트는 스마트폰 프로세서 소비전력의 1/500 수준인 9.8㎽의 초저전력으로도 학습과 추론을 동시에 수행할 수 있다. 응답에 걸리는 시간도 0.2초(216.4ms)였다.
소울메이트는 스마트폰, 웨어러블 기기 등 개인 맞춤형 AI가 필요한 곳이라면 어느 분야에서든 활용될 수 있다. 예를 들어 스마트폰에 탑재될 경우 사용자의 감정과 습관, 생체정보 등 민감한 정보까지 학습한 AI 비서를 만들 수 있다.
물리 환경에서 동작하는 피지컬 AI와의 결합도 기대된다. 특히 프라이버시를 중시하는 해외에선 이 분야의 활용 가능성에 관심이 많다. 예를 들어 소울메이트를 활용하면 사용자와 세밀한 감정 교류가 가능한 반려 로봇을 만들 수 있다. 유 교수는 “실제로 강아지를 키우면 시간이 지날수록 친밀감이 커지는 것처럼 로봇과도 교감이 가능해진다”며 “사용자의 말투나 습관까지 인식해 반응한다”고 설명했다.
소울메이트는 지난 2월 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 처음 공개됐다. ‘반도체 설계 올림픽’으로도 불리는 ISSCC에서 하이라이트 논문으로 선정되는 성과를 거뒀다. 당시 일론 머스크가 설립한 뇌신경과학 기업 뉴럴링크가 연구진을 실리콘밸리 본사로 초청해 간담회를 갖기도 했다. 연구진은 유 교수가 창업한 스타트업 온뉴로A에서 2027년 내 소울메이트를 상용화할 계획이다.
KAIST, 세계 최초 '초개인화' 온디바이스 AI 개발 | 중앙일보
국제고체회로설계학회(ISSCC)에서 발표하고
삼성, 인텔, 애플, TSMC 같은 외계인급 엔지니어들
사이에서 하이라이트 논문상 받음
내용보면 휴대폰 AP칩에 넣을 NPU칩 개발했는데
추론 학습까지 가능함 ㄷ
2027 양산예정이라는데
이제 휴대폰에 자체 LLM박아놓고
파라미터 조정 하는 날이 곧 올듯
대학이 실리콘 빅테크급 퍼포먼스 보여줌 ㄷㄷㄷ



ㅡㅡ지우지 말아 주세요 ㅡㅡ

카지노,토토 커뮤니티 일등!! 슬기로운 베팅생활

슬.베 [10,000] 포인트 제휴업체 후기 이벤트!! https://sbt-sbt2.com/bbs/board.php?bo_table=free8&wr_id=4

#카지노커뮤니티 #카지노슬베 #슬베 #슬베사이트 #카지노사이트 #온라인카지노 #인터넷카지노 #바카라커뮤니티 #안전공원 #안전놀이터 #안전한카지노사이트 #안전카지노 #바카라 #온라인바카라 #인터넷바카라 #인터넷카지노 #검증 커뮤니티 #사이트 먹튀 #카지노먹튀 #베팅카지노 #빅카지노 #빅2카지노 #유카지노 #얀카지노 #제왕카지노 #캐시카지노 #파라오카지노 #풀카지노 #슬기로운베팅생활 #베팅생화 #슬기로운 #카지노베팅생활 #카지노슬기로운베팅생활 ​#스포츠중계 #중계 #축구중계 #야구중계 #농구중계 #배구중계 #하키중계 #미식축구중계 #중계사이트 ​#스포츠분석 #분석 #축구분석 #야구분석 #농구분석 #배구분석 #하키분석 #미식축구분석 #분석사이트 #KIA #한화 #기아 #한화 #케이비오 #케이리그야구분석 #한국야구분석 #스포츠분석 #프로야구분석 #KT #키움 #케이티 #키움 #삼성 #롯데 #SSG #엔씨 #SSG #NC #에스에스지 #NC #에스에스지 #엔씨 #LG #두산 #엘비 #주요경기 #NPB #세이부 #소프트뱅크# KBO #요미우리 #한신 #엠피비야구분석 #일본야구분석 #히로시마 #요코하마 #야쿠르트 #주니치 #오릭스 #니혼햄 #라쿠텐 #치바롯데 #NBA #필라델피아 #뉴욕 #인디애나 #밀워키 #해외농구분석 #클리퍼스 #댈러스 #보스턴 #마이애미 #클리블랜드 #올랜도 #덴버 #레이커스 #뉴올리언스 #오클라호마 #피닉스 #미네소타 #댈러스 LA클리퍼스 #부산KCC #KT소닉붐 #케이비엘 #국내농구분석 #케이비엘 #스포츠분석 #프로농구분석 #야쿠르트 #주니치 #히로시마 #요코하마 #꿀정보 #NPB #요미우리 #한신 #일본프로야구분석 #세이부 #소프트뱅크 #오릭스 #니혼햄 #라쿠텐 #치바롯데 #올랜도 #클리블랜드 #해외농구분석 #프로토 #컵스 #밀워키 #신시내티 #볼티보어 #피츠버그 #콜로라도 #필라델피아 #샌프란시스코 #워싱턴 #토론토 #템파베이 #메츠 #양키스 #디트로이트 #해외야구분석 #클리블랜드 #에인절스 #캔자스시티 #텍사스 #휴스턴 #시애틀 #미네소타 #보스턴 #세인트루이스 #화이트삭스 #애리조나 #샌디에이고 #오클랜드 #마이애미 #다저스 #애틀란타 #J리그 #가시마 #쇼난 #도쿄 #교토상가 #마치다 #가시와 #아시아축구분석 #아시아프로축구분석 #세레소오사카 #삿포로 #사간도스 #도쿄베르디 #무료중계 #가와사키 #우라와 #후쿠오카 #감바오사카 #나고야 #비셀고베 #AFC #U23결승전 #일본 #우즈벡 #아시아프로축구분석 #K리그2 #김포 #부천 #K리그 #충남 #아산 #안양 #충남아산 #서울 #울산 #포항 #전북 #리그앙 #툴루즈 #몽펠리에 #프랑스 리게 #리게 #네덜란드 #에레디비시 #알메러시티 #헤렌벤 #해외프로축구분석 #시타르트 #고어헤드 #독일 #분데스리가 #호펜하임 #라이프치히 #이탈리아 #세리에A #토리노 #볼로냐 #이탈리아세리에A #EPL #루턴 #에버튼 #영국 #영국프리미어리그 #프리미어리그 #라리가 #헤타페 #빌바오 #스페인 #프리메라리가 #스페인프리메라리가 #랑스 #로리앙 #아스날 #본머스 #소시에다드 #라스팔마스 #르아브르 #스트라스부르 #독일 #분데스리가 #볼프스부르크 #다름슈타트 #독일분데스리가 #브레멘 #묀헨글라트바흐 #슈투트가르트 #바이에른뮌헨 #도르트문트 #아우크스부르크 #브렌트포드 #풀럼 #번리 #뉴캐슬 #셰필드 #노팅엄 #레알마드리드 #카디스 #잉글랜드 #챔피언쉽 #버밍엄시티 #노리치시티FC #잉글랜드챔피언쉽 #코번트리 시티 #퀸즈 파크 레인저스 #코번트리 #퀸즈파크 #NBA #올랜도 #클리블랜드 #미프로농구 #미국프로농구 #댈러스 #클리퍼스#야구, #축구, #농구, #배구, #탁구, #테니스, #배드민턴, #골프 #달리기, #크로스컨트리, #마라톤, #필드  #스키, #썰매, #스케이트, #컬링, #아이스 하키 #사이클, #모터스포츠, #양궁, #승마, #보드게임, #e스포츠 #메이저리그 #미국야구