서류 지원4학년 1학기, 바쁜 일상을 보내던 중 삼성전자 대학생 인턴 모집 공고를 발견했다.마감 일주일 전에 공고를 봤지만 대학생 신분일 때만 도전해볼 수 있는 기회라는 생각에 한번 해보자 하는 마음으로 지원했고, 운 좋게 서류 합격까지 하게 되었다. 평소 인공지능을 주전공으로, 반도체를 부전공으로 공부하고 있었기에 반도체 팹에서의 데이터 분석과 edge AI 기반의 공정 최적화에 관심이 많았다. 직무기술서를 꼼꼼히 살펴보면서 나에게 가장 핏이 맞을 것 같은 직무를 골라 지원했다. 자기소개서에는 나의 가치관을 진솔하게 담으려 노력했다. 예시로 나는 인공지능 전공이지만, '인공지능 알고리즘 연구와 응용은 다르고, 엔지니어는 응용을 하는 사람이다'라는 확고한 가치관이 있기 때문에 그 부분을 자연스럽게 녹여..

전통적인 수신기의 딜레마안테나를 타고 들어오는 무선 통신 신호는 수 GHz 대역의 엄청난 고주파다. 이 미친 듯이 빠른 신호를 디지털 회로가 곧바로 처리하는 것은 불가능에 가깝다. 그래서 전통적인 무선 수신기는 한 번에 속도를 늦추지 않고, '중간 기착지'를 거치는 방식을 택했다. 고주파(RF) 신호를 다루기 쉬운 중간 주파수(Intermediate Frequency, IF)로 한 단계 내린 다음, 거기서 원하는 채널만 걸러내고 최종적으로 기저대역(Baseband)으로 내리는 것이다. 이를 슈퍼헤테로다인(Superheterodyne) 구조라고 부른다. 문제는 이 IF 단계에서 원하는 신호만 골라내려면 꽤 까다로운 필터링이 필요하다는 점이다. 특정 주파수 대역만 통과시키는 대역통과필터(BPF, Band-..

스위치드 커패시터(Switched-Capacitor, SC)지난번 글에서 '칩 위에 거대한 수동 저항을 올리는 것은 공간 낭비가 심하다'는 아날로그 설계의 고질적인 문제를 다루었다.이 문제를 해결하기 위해 능동 소스 축퇴처럼 트랜지스터를 활용하기도 하지만, 아예 발상을 전환해 스위치와 커패시터만으로 저항을 흉내 내는 방식이 있다. 바로 스위치드 커패시터(Switched-Capacitor, SC) 회로이다. 등가 저항의 수학적 원리전압이 $V_1$인 노드와 $V_2$인 노드 사이에 스위치 1, 커패시터 $C$, 스위치 2가 직렬로 연결되어 있다고 가정해 보자. 두 스위치는 서로 겹치지 않는(Non-overlapping) 클럭 $f_{clk}$에 의해 번갈아 가며 켜지고 꺼진다.스위치 1이 닫힐 때: 커패시..

* 이쪽 전공이 아니고, 공부하면서 적은 글이라 오류가 있을 수 있습니다. 최근 온디바이스 AI나 엣지 컴퓨팅 환경을 살펴보면, 제한된 자원 안에서 모델을 경량화하는 소프트웨어적인 접근만큼이나 하드웨어 레벨에서의 초저전력 설계가 핵심적인 이슈로 떠오른다. 특히 엣지 기기의 센서에서 들어오는 미세한 아날로그 신호를 처리하려면 증폭기가 필수적인데, 여기서 재미있는 발상의 전환이 쓰인다. 바로 디지털 회로의 기본 부품인 CMOS 인버터를 아날로그 증폭기로 탈바꿈시키는 것이다. 디지털 부품을 증폭기로 CMOS 인버터는 원래 디지털 회로의 부품이다. PMOS와 NMOS를 직렬로 쌓아, 입력이 HIGH면 출력을 LOW로, LOW면 HIGH로 뒤집어주는 스위치다. 그런데 이 인버터를 완전히 켜거나 끄지 않고, 두 트..

밀러 효과란반전 증폭기의 입출력 사이에 커패시터가 하나 달려 있을 때, 입력단에서 바라보면 그 커패시터가 실제보다 훨씬 크게 느껴지는 현상이다. 아래 그림처럼 이득이 $-A_v$​인 반전 증폭기 입출력 사이에 커패시터 C가 연결되어 있다고 하자. 입력 전압이 +1V 올라가는 순간을 생각해보자.증폭기가 신호를 반전시키므로 출력은 반대 방향으로 $-A_v$만큼 내려간다. 커패시터 왼쪽은 +1V, 오른쪽은 $-A_v$가 되면서 양단의 전압 차이가 다음과 같이 커진다. $$ΔV=1+A_v$$​커패시터에 쌓이는 전하량은 $Q=C⋅ΔV$이므로, 전압 차이가 $(1+A_v)$배 벌어진 만큼 필요한 전하량도 똑같이 늘어난다. 입력단 입장에서는 마치 다음과 같은 거대한 커패시터가 GND 사이에 버티고 있는 것처럼 느껴..

회로이론을 배우다 보면 특정 주파수 대역만 통과시키는 대역통과 필터(Band-Pass Filter, BPF)를 설계할 때 필연적으로 인덕터와 커패시터의 공진을 이용하게 된다. Band-Pass Filter (대역통과 필터)먼저 Band-Pass Filter에 대해 간단히 짚고 넘어가보자. Band-Pass Filter 는 특정 주파수 범위(대역)의 신호만 통과시키고, 그보다 낮거나 높은 주파수의 신호는 차단하는 필터다. 중심 주파수 $f_c$를 기준으로 그 주변의 신호만 살아남으며, 통과시키는 범위를 대역폭(Bandwidth, BW)이라고 부른다. 저역통과 필터(LPF)와 고역통과 필터(HPF)를 직렬로 연결한 구조로 이해할 수도 있고, LC 공진 회로처럼 특정 주파수에서 임피던스가 최소가 되는 공진 현..

Feature Extraction using Spiking Convolutional Neural NetworksRuthvik Vaila, John N Chiasson, Vishal SaxenaICONS '19 (International Conference on Neuromorphic Systems)DOI: 10.1145/3354265.3354279 Feature Extraction using Spiking Convolutional Neural Networks | Proceedings of the International Conference on Neuromorphic SysBrain-inspired learning models attempt to mimic the computations performe..

Distilling Step-by-Step! Outperforming Larger Language Models with Less Training Data and Smaller Model SizesCheng-Yu Hsieh, Chun-Liang Li, Chih-Kuan Yeh, Hootan Nakhost, Yasuhisa Fujii, Alexander Ratner, Ranjay Krishna, Chen-Yu Lee, Tomas Pfister arXiv:2305.02301 ACL 2023 요약LLM에서 label 뿐 아니라 rationale까지 추출하여 소형 모델을 multi-task로 학습시키면, 기존 finetuning이나 distillation보다 훨씬 적은 데이터와 작은 모델로도 LLM을 능가할 수 ..

Distilling the Knowledge in a Neural NetworkGeoffrey Hinton, Oriol Vinyals, Jeff DeanarXiv:1503.02531 (2015)NIPS 2014 Deep Learning Workshop 요약크고 무거운 모델(또는 앙상블)의 "지식"을 softmax temperature를 높여 만든 soft target으로 작고 가벼운 모델에 전이하는 Knowledge Distillation 프레임워크를 제안한 논문이다. Knowledge Distillation의 시초가 된 논문. 문제 정의논문은 곤충의 비유로 시작한다. 곤충은 영양을 흡수하는 데 최적화된 유충 형태와 이동·번식에 최적화된 성체 형태가 완전히 다르다. 마찬가지로 머신러닝에서도 학습 단계와 ..

TaskSense: A Translation-like Approach for Tasking Heterogeneous Sensor Systems with LLMsKaiwei Liu, Bufang Yang, Lilin Xu, Yunqi Guo, Guoliang Xing, Xian Shuai, Xiaozhe Ren, Xin Jiang, Zhenyu YanSenSys '25DOI: 10.1145/3715014.3722070 요약사용자의 자연어 질의를 센서 언어(Sensor Language)로 번역하여, 이종 센서 시스템을 자동으로 조율, 실행, 응답까지 수행하는 LLM 기반 시스템 구축 문제 정의 스마트홈, 스마트팩토리 같은 환경에는 RGB 카메라, 깊이 센서, 오디오 센서, 온습도 센서 등 다양한 센서 시스..