-
NSA(Native Sparse Attention; Hardware-Aligned and Natively Trainable Sparse Attention) 논문 설명
서론 대규모 언어 모델(LLM)이 긴 문맥(long context)을 처리하는 능력은 점점 더 중요해지고 있습니다. 예를 들어, 긴 문서 요약이나 복잡한 추론, 다중 발화 대화와 같은 작업에서는 수만 단어에 달하는 입력을 모델이 이해해야 할 수 있습니다. 그러나 기존의 Full Attention 메커니즘(모든 토큰 쌍 간의 어... Read More
-
2025년 2월 AI 기술 및 산업 동향 분석
2025년 2월 한 달 동안 인공지능(AI) 분야에서는 새로운 AI 모델 출시부터 주요 기업들의 전략 발표, 시장 투자 움직임, 그리고 각종 논란에 이르기까지 다양한 사건과 트렌드가 나타났습니다. 이번 리포트에서는 주요 AI 기술 동향, 기업 동향, 시장 및 산업 변화, AI 관련 논란 및 사회적 영향을 정리하여 소개합니다. ... Read More
-
비둘기에서 AI까지, 연결 기술이 바꾼 패권과 한국의 미래
서론: 연결의 진화와 힘 과거부터 인류는 더 빨리, 더 멀리 소통하는 방법을 찾아왔습니다. 고대에는 왕의 명령이 변경까지 전달되는 데 수 주가 걸렸지만, 오늘날 메시지는 순간적으로 지구 반대편에 닿습니다. 이러한 소통 수단, 즉 ‘연결체’의 발달은 단순한 편리함 이상의 의미를 가집니다. 정보를 누구보다 먼저 전달받고 활용하는 ... Read More
-
문화와 인간의 공진화: 물병에서 시작된 AI의 탄생과 미래
Notion Page 물병과 인간의 진화 한낮의 뜨거운 태양 아래, 털이 거의 없는 원시 인류 사냥꾼이 가쁜 숨을 내쉬며 초원을 달립니다. 그의 등에는 동물 가죽으로 만든 물주머니가 매달려 있고, 사냥감은 지쳐가지만 그는 멈추지 않습니다. 땀을 비 오듯 흘리며 체온을 식힐 수 있는 덕분에, 사자나 하이에나처럼 그늘에 숨지 않고도 ... Read More
-
AI 시대, 데이터센터 에너지 효율 혁신이 필요한 이유
개요 인공지능(AI)의 폭발적 발전은 인터넷 데이터센터(IDC)의 에너지 소비 문제를 수면 위로 부상시켰습니다. 기존 데이터센터는 고성능을 위해 전력 소모가 큰 x86 서버 CPU와 GPU에 의존해 왔지만, 이러한 방식은 에너지 효율 면에서 심각한 비효율을 초래합니다. AI 수요가 기하급수적으로 늘어남에 따라 데이터센터의 전력... Read More
