Slurm 설치 방법

(계속 업데이트 중…) Slurm 이란 무엇인가? Slrum은 여러 연산 서버가 돌아가는 환경에서 이를 조율하는 조율자의 역할을 한다. 비유를 하자면, 현악 합주에서 각 연주자가 연산 서버 노드가 될 것이고, 이를 조율하는 지휘자가 slurm 서버가 될 것이다. Slurm을 설치하기로 결심한 이유는, 연구실 서버의 사양이 각기 다르고, 각자 다른 환경에서 실험을 진행하고 있다. 이러한 상황에서 한 서버에서 다른 서버로 넘어가면 환경설정을 다시 해야하고, 서버 수가 많아지면서 각각의 관리가 어렵게 되었다. 다른 이유로는, 하나의 실험 job이 끝나면 다음 실험으로 넘어가는 것이 이상적이다. 즉 서버가 노는 (id...

더보기

연구실 생활 관련 정보 모음

대학원에 입학하고 한 학기가 지났습니다. 학부생 시절 인턴하는 시간을 포함하면 거의 연구실 생활을 1년 넘게 진행하였네요. 이리저리 굴러 다니면서 터득한 정보가 많기는 하지만, 정리를 하지 않고 있었습니다. 정리를 하는 김에, 다른 사람에게도 공유하면 좋겠다 싶어 블로그 글로 남겨봅니다. 대다수의 내용은 인터넷에서 흘러다니는 정보를 모은 내용입니다. 가능하면 출처를 남기었으니, 출처에도 들어가시면 더 많은 정보를 얻으실 수 있으실 겁니다. 많은 원본 내용은 영어이다 보니 비공식적으로 번역한 내용이 많습니다… 관련 포스팅 연구실 세팅 어떻게 연구를 할 것인가?

더보기

어떻게 인공지능 연구를 할 것인가?

글을 쓰는 시점에서는 성공적으로 마친 연구는 없습니다. 이 글을 쓴 목적은 인공지능 연구를 하는 “방법”에 대해서 도움말을 모아보는 글입니다. 특히 저의 현재 전공이 인공지능이여서, 인공지능 연구 방법에 대한 도움말을 모아 보았습니다. 연구를 하는 대학원생의 입장에서 “어떻게 연구를 하면 좋을지”에 대해서는 수업으로는 배우지 않습니다. 대다수의 대학원은 도제식 교육이여서, 이러한 내용을 지도교수님께 바로 배우면 좋겠지만 한계점은 존재합니다. 인터넷을 둘러보다 보면, 많은 연구를 하는 방법에 대한 글 그리고 도움될만한 쓰레드가 많습니다. 저도 즐겨찾기에 넣어만 두고 많이 읽지는 않았네요;; 모아두면 누군가에게는...

더보기

어떻게 인공지능 논문을 읽을 것인가?

어느 연구실이든 연구실에 들어가게 되면 먼저 하게 되는 일은 논문을 읽는 일입니다. 논문을 읽는 여러 이유가 있겠지만, 연구를 하기 위해서는 이전에는 어떠한 연구를 했는가를 알아보기 위함입니다. 이전에는 이러저러한 시도가 있었고, 문제점은 무엇이였고, 우리는 여기서 어떻게 발전할지에 대해 알아보게 되지요. 그렇다면 논문을 어떻게 읽어야 할까요? 논문을 읽을때 필요한 능력은 무엇일까요? 우리는 논문을 짧은 시간 안에 필요한 정보만을 빠르게 뽑아서 소화시키는 능력이 필요하게 됩니다. 인공지능 분야는 매우 급속도로 연구가 진행이 되는 터라, 가장 좋은 성능을 보인 모델(SOTA, state-of-the-art)의 논...

더보기

Tips on Writing

Personal collection about writing tips Mathematical Writing Donald Knuth, “Mathematical Writing” Youtube Playlist P. R. Halmos, “How to Write Mathematics” T. W. K¨orner. “How to Write a Part III Essay”

더보기

History of AI

Curation of history of artificial intelligence according to my taste. Wikipedia A. M. Turing et al. COMPUTING MACHINERY AND INTELLIGENCE Deep Learning in Neural Networks: An Overview Deep Learning Models “On Optimization Methods for Deep Learning” “Dropout: a simple way to prevent neural networks from overfitting” “Understanding the ...

더보기

Foundation of Machine Learning

개인적으로 모아보는 Learning Theory와 딥러닝 이론에 대한 자료 모음집. Textbook Foundation of Machine Learning Theory of Deep Learning The Principles of Deep Learning Theory The Elemeents of Statistical Learning (Springer Link) Learning Theory form First Principles Foundations of Data Science Course Note, Workshop and Survey Paper Course and Course No...

더보기

Syntex of First Order Logic

Syntax and Semantics 수학에서의 공리는 두가지 방법으로 바라볼 수 있다. 첫 번째는 공리를 문장 그 자체로 보는 방법이고, 두 번째는 공리를 문장의 의미로 바라보는 방법이다. 첫 번째 바라보는 방법은 syntax(구문론) 이라 하고, 두 번째 바라보는 방법은 semantics(의미론)이라 한다. [Shoenfield] 에서는 공리를 구문론으로 바라보는 것이 더 적절하다고 한다. 첫째, 의미론으로 살펴보면 공리가 사용되는 언어에 따라 달라질 수 있다. 하나의 공리의 의미라 하더라도 각각의 언어 마다 다른 문장을 가지게 될 것이다. 그렇다면 각 언어에 맞는 각 공리를 따로 배워야 하는데, 이는 썩...

더보기