반응형 dl2 파이썬 숫자 정밀도 FP32와 FP16 차이점 및 딥러닝과의 연관성 파이썬이나 코딩을 하시는 분들은 FP32, FP16등에 대해서 들어보셨을거에요. 오늘은 관련 개념을 정리하고 딥러닝과의 연관성에 대해서 이야기해보겠습니다.FP32 (32-bit Floating Point)FP32는 32비트 부동소수점 숫자를 표현하는 방식으로, 다음과 같은 구성 요소로 이루어집니다:1비트: 부호 (Sign)8비트: 지수 (Exponent)23비트: 가수 (Mantissa) 또는 유효숫자FP32는 높은 정밀도를 제공하여, 다양한 범위의 숫자를 정확하게 계산할 수 있습니다. 이 형식은 과학적 계산 및 고정밀 계산에 적합합니다. 표현 가능한 수는 [2^-149, ~3,4 x10^38] 입니다.FP16 (16-bit Floating Point)FP16은 16비트 부동소수점 숫자를 표현하는 방식으.. 2024. 12. 14. [딥러닝] 합성곱 신경망 Convolutional Nueral Network CNN 필수 개념 정리와 파이토치와 텐서플로우 코딩 예시 -1 딥러닝에서 자주 보고 듣게 되는 용어 중 하나가 합성공 신경망 즉, 컨볼루션 신경망 (Convolution Neural Network , CNN)입니다. CNN은 이미지 인식과 처리뿐만 아니라 다른 분야에서도 많이 이용되고 있어요. 오늘은 CNN을 실제로 활용하는데 필요한 실전 개념과 용어를 정리해 보도록 하겠습니다. 또한 실제 코드 예시를 통해 CNN을 실제로 어떻게 구현해야 하는지 이해하는데 도움이 되면 좋겠어요. 신경망 개념 정리합성곱이름대로, 곱해서 더하는 과정이 CNN의 주요 특징입니다. 본 글은 신경망 (Neural Net)에 대한 기본 개념을 아셔야 이해가 편하길 거예요. 아래 내용이 이해가 잘 가신다면 다음 내용을 이해하는데 문제없으실 거예요. (feat. 이런 기본 개념은 인터뷰 질문.. 2024. 8. 26. 이전 1 다음 반응형
![썸네일-[딥러닝] 합성곱 신경망 Convolutional Nueral Network CNN 필수 개념 정리와 파이토치와 텐서플로우 코딩 예시 -1](http://i1.daumcdn.net/thumb/C230x300/?fname=https://blog.kakaocdn.net/dn/EjiiK/btsI6OCEVVw/ozGMKcDoIhMPt8fMttPs81/img.png)