vLLM– tag –

🔍 はじめに 今日、Red Hatの営業担当の方とお話しする機会があり、その際に初めて「vLLM」という技術について聞きました。Red Hatらしく、オープンソース技術を活用したAIプラットフォームとしての取り組みについて熱心に語っていただき、特にvLLMを中核...