Дистрибутив операционной системы Red Hat Enterprise Linux AI (RHEL AI) предназначен в первую очередь для работы с большими языковыми моделями семейства Granite, разработанными в IBM. Эти модели распространяются под лицензией с открытым исходным кодом. В комплект RHEL AI входит инструмент настройки больших языковых моделей InstructLab, PyTorch и другие популярные библиотеки для решения задач искусственного интеллекта и средства аппаратной оптимизации для оборудования Nvidia, Intel и AMD.
RHEL AI может работать с ИИ-системами с закрытым кодом (например, с OpenAI ChatGPT и Anthropic Claude), но только по подписке. Модели Granite можно запускать в разных облаках и на собственных серверах. Использование этих моделей, отмечают в Red Hat, будет в целом намного дешевле, чем крупных коммерческих моделей.
RHEL AI доступен в виде образа контейнера, с которым можно работать с помощью стандартных инструментов. Red Hat предоставляет техническую поддержку и принимает на себя ответственность как за программы, так и за модели, входящие в комплект системы.