AI 서버에는 전 세계에서 AI를 사용하는 사람들의 명령이 끊임없이 몰려든다. 서버에선 GPU를 효율적으로 사용하기 위해 이 명령들을 묶어서 연산하는데, 이를 ‘배칭(batching)’이라고 한다. 1월 5일 프렌들리 AI의 사옥에서 만난 유 CTO는 “서버에서 답변을 생성하는 과정 중에 발생하는 ‘배칭의 ...
빅테크 기업들은 자체적으로 개발에 나섰다. 마이크로소프트가 2023년 11월 개발한 AI GPU칩‘마이아100’이 대표적이다. 김 연구원은 “생성 AI의 학습과 추론에 필요한 비용을 절감하는 것은 저렴한 서비스로 이어지고, 이는 다시 사용자의 증가, 빅테크 기업의 자본 증가, 더 좋은 AI 서비스로 이어질 ...
탑재하는 컴퓨터의 성능을 높이는 쪽으로 해결해가고 있습니다. 그래픽 처리 장치(GPU) 등의 고성능 부품을 탑재해 연산을 시도하고 있으며, 최근 현대자동차는 이미지 데이터를 고속으로 처리하기 위해 양자컴퓨팅 및 양자인공지능 기술 개발에도 적극적으로 나서고 있습니다. 이처럼 자율주행을 ...
모든 기기는 우리가 원하는 동작을 수행하기 위해 중앙처리장치(CPU)나 그래픽처리장치(GPU)를 이용해 연속적으로 계산한다. 네트워킹은 정보를 전달하는 방법을 의미한다. 오늘날 우리가 주로 사용하는 무선 인터넷은 전자기파를 사용해 멀리 떨어져 있는 사람들이 서로 정보를 전달한다. 즉 ...
것은 아니다. 두 가지 성공의 방법이 있다. 첫째는 반도체 설계 인력을 키우는 것. CPU와 GPU는 다품종 소량생산 구조다. 반도체를 설계하는 능력에 따라 더 빠르게 데이터 처리가 가능하다. 소자와 회로를 효율적으로 배치하는 등 창의적인 아이디어가 필요한 영역이다. 노태문 한국전자통신연구원 ...
연산 자원을 더 많이 보유한 노드가 보상을 차지할 확률이 높다. CPU를 가진 사람보다는 GPU를 동원하는 쪽이, 컴퓨터 한 대 보다는 세 대를 동원하는 쪽이 이긴다. 이 때문에 암호 화폐를 채굴하고자 하는 대대적인 컴퓨터 연산 동원 경쟁이 과열된다. 개인은 꿈도 못 꿀 엄청난 에너지와 자원을 ...
반도체 업계는 사활을 걸었다. 먼 미래를 바라볼 새도 없다. 지금 당장 한 발이라도 나아가지 않으면 경쟁자에 잡힐 거란 생각뿐이다. 그 덕에 반도체 기술은 쉴 틈 없이 발전하고 있다. 5월에는 2주 간격으로 IBM의 2nm급, TSMC의 1nm급 초고집적 반도체 개발 소식이 연달아 들려왔다. 한편에선 인공지능 ...
알파고에 사용되면서 유명세를 탔다. 초기 버전의 알파고에는 1000여 개의 CPU와 100여 개의 GPU가 사용됐는데, 이세돌 9단과의 대국에서는 48개의 TPU가 이를 대체했다. 현재의 알파고는 과거보다 성능은 좋으면서도, 단 4개의 TPU로 구동되는 것으로 알려졌다. AI 반도체 개발과 함께 컴파일러 연구도 ...
컴퓨터가 충분히 똑똑하지 않았기 때문입니다. 이 문제는 21세기 들어서 그래픽처리장치(GPU) 등 하드웨어의 발전에 힘입어 해결됐습니다. 머신러닝이 폭발적으로 발전했고, 공학자들은 컴퓨터에게 운전 교육을 할 수 있게 됐습니다. 그렇게 ‘자율주행’이 탄생했습니다.평범한 카메라로 비싸고 ...
연산방식을 개발했다. 기존에는 많은 연산을 위해 중앙처리장치(CPU)나 그래픽처리장치(GPU) 등을 활용해야 했다. 김 교수는 초차원 컴퓨팅에 기반해 메모리만으로 다량의 데이터를 학습하는 방식을 개발해 소프트웨어 분야 최우수 국제학술대회인 ‘마이크로(MICRO)’에서 발표했다.김 교수는 ...