Use of Domain Knowledge and Feature Engineering in Helping AI to Play Hearthstone. - Przemyslaw Przybyszewski; Szymon Dziewiatkowski; Sebastian Jaszczur; Mateusz Smiech; Marcin S. Szczuka (FedCSIS, 2017)

Neural heuristics for SAT solving. - Sebastian Jaszczur; Michal Luszczyk; Henryk Michalewski (CoRR, 2020)

Sparse is Enough in Scaling Transformers. - Sebastian Jaszczur; Aakanksha Chowdhery; Afroz Mohiuddin; Lukasz Kaiser; Wojciech Gajewski; Henryk Michalewski; Jonni Kanerva (NeurIPS, 2021)

Mixture of Tokens: Efficient LLMs through Cross-Example Aggregation. - Szymon Antoniak; Sebastian Jaszczur; Michal Krutul; Maciej Pióro; Jakub Krajewski; Jan Ludziejewski; Tomasz Odrzygózdz; Marek Cygan (CoRR, 2023)

Structured Packing in LLM Training Improves Long Context Utilization. - Konrad Staniszewski; Szymon Tworkowski; Sebastian Jaszczur; Henryk Michalewski; Lukasz Kucinski; Piotr Milos (CoRR, 2023)

Scaling Laws for Fine-Grained Mixture of Experts. - Jan Ludziejewski; Jakub Krajewski; Kamil Adamczewski; Maciej Pióro; Michal Krutul; Szymon Antoniak; Kamil Ciebiera; Krystian Król; Tomasz Odrzygózdz; Piotr Sankowski; Marek Cygan; Sebastian Jaszczur (ICML, 2024)

Mixture of Tokens: Continuous MoE through Cross-Example Aggregation. - Szymon Antoniak; Michal Krutul; Maciej Pióro; Jakub Krajewski; Jan Ludziejewski; Kamil Ciebiera; Krystian Król; Tomasz Odrzygózdz; Marek Cygan; Sebastian Jaszczur (NeurIPS, 2024)

MoE-Mamba: Efficient Selective State Space Models with Mixture of Experts. - Maciej Pióro; Kamil Ciebiera; Krystian Król; Jan Ludziejewski; Sebastian Jaszczur (CoRR, 2024)

Structured Packing in LLM Training Improves Long Context Utilization. - Konrad Staniszewski; Szymon Tworkowski; Sebastian Jaszczur; Yu Zhao 043; Henryk Michalewski; Lukasz Kucinski; Piotr Milos (AAAI, 2025)

Joint MoE Scaling Laws: Mixture of Experts Can Be Memory Efficient. - Jan Ludziejewski; Maciej Pióro; Jakub Krajewski; Maciej Stefaniak; Michal Krutul; Jan Malasnicki; Marek Cygan; Piotr Sankowski; Kamil Adamczewski; Piotr Milos; Sebastian Jaszczur (CoRR, 2025)

Projected Compression: Trainable Projection for Efficient Transformer Compression. - Maciej Stefaniak; Michal Krutul; Jan Malasnicki; Maciej Pióro; Jakub Krajewski; Sebastian Jaszczur; Marek Cygan; Kamil Adamczewski; Jan Ludziejewski (CoRR, 2025)

Decoupled Relative Learning Rate Schedules. - Jan Ludziejewski; Jan Malasnicki; Maciej Pióro; Michal Krutul; Kamil Ciebiera; Maciej Stefaniak; Jakub Krajewski; Piotr Sankowski; Marek Cygan; Kamil Adamczewski; Sebastian Jaszczur (CoRR, 2025)