hongveloper

이 글에서는 kubernetes상에서 Ray Cluster를 구축해서 사용해보는 과정을 적어보려고 한다. Ray Cluster를 사용하려는 이유는 다음과 같다.현재 진행하는 프로젝트에서는 실시간으로 쌓이는 대규모 데이터를 분석하고 이것을 활용하기 위함이다.더 자세하게는 보다 효율적으로, 빠르게 데이터를 불러오고 분석하기 위해서 사용을 결정했다. Ray 말고 다른 분산 처리, 학습을 지원하는 다양한 도구들이 존재하지만 Ray를 선택하게 된 이유는 Kubernetes에서 다른 도구들보다 유연하고, 쉽게 사용 가능할 것 같아서이다. 필자와 같은 경우는 대규모 데이터를 효율적으로 처리하기 위해 Apache Spark를 사용해 데이터를 분석, 처리 할것이다.그렇기 때문에 RayDP를 Ray Cluster에 적용시..

kubernetes에서 Ray를 이용해 분산학습을 하기 위해 도커 이미지를 사용해 클러스터를 구축하려고 했지만, 내가 원하는 사항이 들어가지 않아서 도커 이미지를 바꿔서 사용해야 하는 상황이 되었다.그냥 도커 이미지만 바꿔서 사용하면 되지만 Docker hub에 내 이미지를 올려 사용해보고 싶은 생각이 들어서 해보았다. 우선 도커허브 로그인을 해준다docker login -u {user name} 다음 필요한 Dockerfile을 수정한다. FROM rayproject/ray:latest@sha256:c864e37f4ce516ff49425f69cac5503a51e84c333d30928416714a2c3da55b43 ARG HTTP_PROXY ARG HTTPS_PROXY # set htt..

Kubernetes에서 root에서 클러스터를 구성하고 일반 user로 돌아와 명령어를 사용하고 싶을것이다.Unable to connect to the server: tls: failed to verify certificate: x509: certificate signed by unknown authority (possibly because of "crypto/rsa: verification error" while trying to verify candidate authority certificate "kubernetes")그럼 이런 에러를 만나게 될것이다. 필자의 경우에는 다음과 같은 방식으로 해결했다. user로 돌아와서 다음 명령어를 실행한다.mkdir -p $HOME/.kubesudo cp -i ..

노드들의 네트워크 인터페이스 이름을 일치시켜줘야하는 일이 생겨서 변경하게 되었다.커맨드는 생각보다 간단하다.# Deactive network interface.$ sudo ip link set down [interface_name]# Change network interface name.$ sudo ip link set [interface_name] name [new_interface_name]# Active new network interface$ sudo ip link set [new_interface_name] up 사용중인 네트워크 인터페이스 이름을 변경하려면 아마 다음과 같은 안내가 나올것이다.RTNETLINK answers: Device or resource busy 그러므로 네트워크 인터페이..

복잡도(Complexity)란?알고리즘의 성능과 효율성을 나타내는 척도이다.시간복잡도(Time Complexity)와 공간복잡도(Space Complexity)로 나눌 수 있다.시간복잡도(Time Complexity)시간 복잡도는 알고리즘이 문제를 해결하는 데 걸리는 시간을 수량적으로 나타낸다.일반적으로 입력 크기 ( n )에 대한 함수로 표현하고, 보통 최악의 경우를 기준으로 분석한다. 시간 복잡도는 다음과 같은 표기법으로 나타낼 수 있다.O(1): 상수 시간 복잡도 (입력 크기에 관계없이 일정한 시간)O(log n): 로그 시간 복잡도 (입력이 커질수록 시간 증가가 느리게 증가)O(n): 선형 시간 복잡도 (입력 크기에 비례하여 시간 증가)O(n log n): 선형 로그 시간 복잡도 (정렬 알고리즘에..