2026년 10월 24일 고른 기술 소식
PyTorch 어텐션 추론에서 마스크를 쓰면 GPU 메모리가 급증, 대체 경로를 바꿔 줄인 사례
- 이미지 영역을 표시하는 마스크를 만드는 모델 Xiaomi-Lens-0은 flash-attn이 없을 때 MultiheadAttention 경로로 넘어가며, 이때 마스크를 받으면 헤드 16개 × 패치 수의 제곱 크기 행렬을 만들었다.
- 작성자 측정 기준 3메가픽셀 이미지의 마스크 단계 추가 VRAM 피크는 기존 경로 18.02GB, SDPA 경로 2.28GB였다. 측정 환경은 RTX 5090 32GB, Windows 11, flash-attn 미설치다.
- PyTorch 문서는 need_weights=False일 때 최적화 경로를 쓴다고 설명하지만, 작성자가 CUDA 소스를 보니 마스크가 있으면 그 경로에 들어가지 않았다. CPU 프로파일링에서는 학습 모드의 같은 층이 SDPA를 써서 eval 추론에서만 재현됐다.
- 작성자는 6개 샘플 비교에서 토큰과 박스가 같았고 마스크 IoU는 0.9976에서 0.9998 사이였다고 보고했다. 이는 제한된 비교이며 품질 전체 평가가 아니다.
분담 조정이 안 될 때 쓴 책임 경계도, 팀 간 논의를 수정 작업으로 바꾸다
- 외부 서비스 연동 기능에서 요구사항 정의는 한 팀, 구현은 옆 팀이 맡았다. 요구사항이 실현 가능한지와 공수를 판단할 사람이 없어 두 팀 사이 왕복이 반복됐다고 필자는 설명한다.
- 필자는 팀 간 분담을 바꾸자는 추상적인 요구가 번번이 현실적으로 어렵다는 말로 끝났다고 말한다. 이에 단계별 담당자를 표시한 한 장짜리 책임 경계도를 만들어 회의에 올렸다고 소개한다.
- 그림에서 사전 조사는 엔지니어가 재료를 모아 프로덕트 매니저(PdM, 기능의 방향과 우선순위를 정하는 역할)에게 넘기고, 요구사항 정의는 PdM이 결정하며, 설계는 엔지니어가 맡는 식으로 나눴다. 필자는 이 그림을 쓴 뒤 회의가 구체적인 수정 논의로 바뀌었다고 밝힌다. 효과를 수치로 측정했다는 내용은 원문에 없다.
- 회의에서 나온 반론은 두 가지였다. 넘겨받을 팀에 여유 인력이 없다는 점과, 조사와 요구사항에 필요한 지식이 옛 팀에 남아 있다는 점이다. 필자는 이를 책임 분담 논의와 분리해 따로 다뤘다고 설명한다.
애플 iWork 앱에 AI 어시스턴트 베타 공개, 크리에이터 스튜디오 구독자만 사용 가능
- Pages, Keynote, Numbers에 AI 어시스턴트 베타가 열려 문서 초안, 슬라이드, 표 작업을 도울 수 있게 됐다. 원문에 따르면 애플 크리에이터 스튜디오 구독자만 쓸 수 있으며, 세 앱 자체는 무료다.
- Pages에서는 초안 작성, 어조 조정, 이미지와 도형 생성, 최신 정보 검색 후 문서에 넣기가 가능하다고 원문이 전한다. Keynote는 슬라이드 제작, 발표자 노트, 애니메이션을 돕고 Numbers는 차트 추천, 수식 작성, 표 생성을 돕는다.
- 구독료는 월 12.99달러 또는 연 129달러이며 신규 구독자는 1개월 무료 체험을 받는다. 구독에는 Final Cut Pro, Logic Pro, Pixelmator Pro도 포함된다.
- 업데이트 직후 세 앱이 iOS와 Mac 앱스토어에서 잠시 사라졌다. 원문은 제거가 의도였는지 버그였는지 아직 불분명하다고 전한다.
마하나인, 스캔 데이터를 토목 도면으로 자동 바꾸는 AI CAD에 3400만 달러 투자 유치
- 마하나인은 측량팀이 장비로 도로, 배관, 공사 현장을 스캔한 3차원 데이터를 올리면 연석, 표지판, 전신주, 차선, 전선 같은 요소를 자동으로 도면에 옮기는 토목 전용 소프트웨어다. 사용자는 결과를 검토하고 수정해 확정한다.
- 회사는 이 방식이 기존 수작업보다 최대 10배 빠르고 비용은 5분의 1 수준이며 센티미터 단위 정확도를 낸다고 설명한다. 이는 회사 측 주장이며 독립적으로 검증된 수치가 아니다.
- 제품은 현재 비공개 베타 단계로, 약 100곳의 고객이 2,500개 이상 프로젝트에 써봤다. 고객에는 WSP, HNTB, NV5 같은 토목 엔지니어링 기업과 캘트랜스, 미네소타주 교통부 등 교통 당국이 포함된다.
- 이번 3400만 달러 시리즈A는 퍼스트라운드캐피털과 베세머벤처파트너스가 공동 주도했고, 누적 투자금은 4900만 달러가 됐다. 회사는 2021년 카네기멜런대 연구자들이 창업했으며 초기 하드웨어 사업에서 소프트웨어로 전환했다.