fastapi
uvicorn
minio
numpy
tritonclient[all]
python-dotenv
pydantic==1.10.2
websockets
opencv-python
redis
pika

# conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia