파이썬에서 멀티프로세싱이란?
(What is Multiprocessing in Python?)
멀티프로세싱(Multiprocessing)은 수많은 데이터 처리를 효율적으로 할 수 있는 기본적인 기능이다. Data Science 분야와 같이 빅데이터를 분석하고 활용하기 위해서는 다중처리가 가능한 HW뿐만 아니라 SW에서 알고리즘 방식을 어떻게 가져가느냐가 중요하다. 파이썬에서는 멀티 프로세싱이라는 기능을 제공함으로써 효율적인 데이터 처리를 할 수 있도록 도와주고 있다. 이번 포스트에서는 멀티 프로세싱에 대한 기본적인 개념에 대해서 살펴볼 예정이다.
멀티 프로세싱이란?
멀티프로세싱은 한국에서 다중처리, 병렬 처리 등으로 불리며, 여러 프로세서를 기반으로 병렬적으로 업무 처리를 하는 방식을 의미한다. HW 기술 발전에 따른 CPU에 다중 프로세서를 사용하는 만큼(참고로 128 코어도 있다.) 이에 맞는 멀티 프로세싱 방식을 적용하여 한번에 다양한 프로그램 사용이 가능해졌다는 것이다. 한마디로 기존 싱글 프로세서에서는 프로세서 하나가 여러 가지 프로그램을 빠르게 번갈아가며 일 처리를 해왔던 거와 달리 멀티 프로세서에서는 여러 프로세서 나눠서 일을 처리하다 보니 효율성 면에서 차이가 나타난다.
파이썬에서 멀티 프로세싱이란?
파이썬에서는 멀티프로세싱이라는 기능을 제공함으로써 효율적인 데이터 처리 방식을 제공한다. 한마디로 하드웨어에 있는 프로세서에 원하는 작업을 나눠서 수행할 수 있도록 프로그래밍을 하는 과정에서 멀티프로세싱이라는 기능을 제공함으로써 개발자는 멀티프로세싱 기능을 사용하기 위해 별도의 코드 작성 없이 해당 기능을 사용하면 된다. 멀티 프로세싱은 import multiprocessing 패키지를 사용함으로써 바로 사용이 가능하며, 파이썬 멀티프로세싱 기능을 기반으로 응용된 다양한 데이터 다중 처리 패키지가 존재한다. 데이터 다중 처리 패키지들은 보다 더 큰 데이터 처리 과정에서 사용이 되기 때문에 파이썬 기반으로 데이터를 많이 다루는 분야라면 멀티프로세싱 기능과 기본 원리, 개념에 대해서 확실히 알고 가는 것이 중요하다.
In Conclusion,
1. 멀티프로세싱은 여러 프로세서를 이용하여 작업을 수행하는 다중 처리 방식이다.
2. 파이썬에서는 멀티프로세싱을 할 수 있는 기능을 제공한다.
3. 파이썬 멀티프로세싱 기능을 기반으로 다양한 빅데이터 처리 응용 패키지들이 존재한다.
'Python' 카테고리의 다른 글
[PyTorch] 데이터셋과 데이터로더 (Dataloader and Dataset) (0) | 2022.07.12 |
---|---|
[Python] Split: split(), max split (0) | 2022.03.06 |
[Python] 파이참에서 파이썬 패키지 쉽게 설치 하는 방법: import [패키지명] (0) | 2021.07.12 |
[Python] 파이썬 연산자: Arithmetic operations (0) | 2021.07.11 |
[Python] 파이썬 버전 확인하는 방법: python, python --version (0) | 2021.07.11 |
댓글