Исследование EPFL рассматривает внутренние механизмы обработки многоязычных данных в больших языковых моделях (LLM). Исследователи использовали метод Logit lens для анализа моделей Llama-2, чтобы понять, как происходит инференс на разных языках. Выводы подчеркивают важность этих механизмов для оптимизации языковых моделей.