Войны второй половины XIX века наглядно показали возрастающее значение скорострельного оружия. Преимущество его было настолько очевидным, что повсюду начались спешные изыскания средств и способов увеличения скорости стрельбы старых ружей и конструирование новых.

К тому времени миру были известны первые многозарядные системы Спенсера (применялась в Гражданской войне в США), Веттерли (принята на вооружение швейцарской армией в 1869 г), Винчестера (использовалась турками в войне с Россией 1877-1878 гг.) Все они имели магазины в виде длинных узких трубок, размещавшихся или в прикладе (Спенсер), или под стволом (Веттерли, Винчестер). Карабины Спенсера и Винчестера использовали патрон с небольшим зарядом и имели весьма посредственные баллистические качества, которые не удовлетворяли пехотные войска. Винтовка Веттерли обладала большим весом, имела ненадежный механизм и устаревший патрон. В силу этих причин упомянутые «магазинки» широкого распространения не получили.
На вооружении русской армии в это время находились шестилинейки (15,24-мм) Терри-Нормана, Карле, Крнка и 4,2-линейные (10,67-мм) берданки. Все однозарядные, переделочные.

Вопрос о замене устаревших систем на новые в России был поднят в 1878 году. Оружейный отдел Артиллерийского комитета в своем майском постановлении «признал необходимым начать работы по испытанию магазинных винтовок». Но, поскольку вполне удовлетворительных образцов такого типа ружей пока не было, опыты сосредоточились в основном на опробовании различных временных приспособлениях, способствующих ускорению стрельбы.
Однако испытания показали, что подобного рода устройства малоэффективны. Большого увеличения скорострельности они не давали, а расходы на их введение требовались «весьма значительные». Ввиду этого на вооружение они приняты не были.
В 1882 году работой над новой системой занялся капитан Сергей Иванович Мосин. Первой задачей, которую поставил перед собой оружейник, — это увеличить скорострельность однозарядной винтовки с помощью удобного постоянного ускорителя. Для опытов Мосин избрал 4,2-линейную берданку со скользящим затвором, которая на тот период в русской армии была самой совершенной. Мосин переделал ее, встроив в приклад реечный магазин на 7, 8 патронов. Ружье имело замыкатель, фиксировавший подающий механизм магазина в заднем положении, что давало возможность вести стрельбу так же, как из однозарядной системы.
Проведенные испытания мосинского образца показали, что он по своей идее размещения патронов в магазине, подачи их и способу наполнения магазина патронами является достаточно прогрессивным и удачным, однако требует коренной переделки деталей механизма и капитального изменения некоторых частей винтовки. В мае 1883 года по приказу военного министра была образована Комиссия для испытания магазинных ружей во главе с постоянным членом Артиллерийского комитета генерал-майором Чагиным.
К этому времени комиссии уже были представлены многозарядные винтовки Мосина, Лутковского, оружейного мастера Квашневского, русских конструкторов генерал-майора Вельтищева и полковника Христича. Позже на конкурс поступили образцы винтовок подполковника Владимирова, штабс-капитана Миткевича, мастера Харитонова, иностранцев Ивенса, Шуль-гоффа, Гра-Кропачека, Маузера и других. Из всех испытанных образцов наиболее удачными оказались системы Квашневского и Мосина.
В 1885 году после устранения недостатков мосинская модель получила положительную оценку, и ей было отдано предпочтение. Комиссия приняла решение «ружье системы капитана Мосина» подвергнуть войсковому испытанию для окончательного выяснения его пригодности. В 17 пунктах ее заключения содержались разного рода рекомендации по изменению отдельных деталей оружия, в том числе предлагалось увеличить емкость магазина до 11 патронов.

Тульскому оружейному заводу был дан заказ на срочное изготовление 1000 новых винтовок. В 1887 году Сергей Иванович предъявил комиссии три усовершенствованных образца своей реечной системы. В них были учтены все рекомендации. Кроме того, конструктор внес ряд существенных улучшений по своей инициативе. Несмотря на это, члены комиссии считали: ружье нуждается в дальнейшем совершенствовании. Мосин и без того настолько основательно изменил схему берданки, что ее уже никак нельзя было причислить к разряду переделочных. Поэтому целесообразнее было разрабатывать совсем новую систему под новый малокалиберный патрон с новым бездымным порохом.
Появившийся к тому времени за границей и в России бездымный (пироксилиновый) порох обладал перед дымным (селитро-сероугольным) огромным преимуществом: был значительно сильнее, не оставлял твердых продуктов горения. Это давало возможность уменьшить вес заряда, перейти к еще меньшему калибру оружия, улучшить его баллистические качества. Во Франции такая винтовка уже имелась на вооружении, о чем Россия была информирована своим военным агентом.
Интенсивные опыты в этом направлении проводились и в других странах. Это заставило комиссию прекратить дальнейшую работу с 4,2-линейным оружием. С.И. Мосину было разрешено проектировать многозарядную винтовку уменьшенного калибра. Над однозарядной 3,15-линейной (8-мм) системой в России уже работал постоянный член Оружейного отдела Артиллерийского комитета полковник Роговцев. По его чертежам Петербургский патронный завод изготовил небольшую партию гильз и пуль. Гильзы — латунные, пули — из твердого сплава свинца и олова с медной оболочкой.
Под этот патрон Мосин и начал разрабатывать свою малокалиберную винтовку. Он спешил. Кроме французской армии, магазинное оружие в течение 1884-1887 годов поступило на вооружение германской и итальянской армий. Лишь Россия не особенно торопилась, выбирала образцы, испытывала.
В сентябре 1887 года С.И. Мосин закончил свою 3,15-линейную винтовку с реечным магазином. В том же году она прошла испытания, показавшие, что конструктор учел все главные указания комиссии. Последняя отнеслась к представленной системе в целом благосклонно, однако не признала ее удовлетворительной. Конструктору были даны новые рекомендации.
Между тем европейские армии перевооружались с лихорадочной быстротой. В 1888 году новую магазинную систему приняла Германия, в 1889 году — Англия, Австро-Венгрия, Швейцария, Дания. Россия подходящей модели все еще не имела. Военный министр генерал Ванновский, всерьез считал излишним введение «магазинок». Он рассуждал так: «Запад нам не указ; мы и с однозарядными сильнее. Солдат мы учим: стреляй редко, да метко». Кроме того, министр боялся большого расхода боеприпасов. Во время беседы с председателем комиссии генералом Чагиным он однажды признался: «Скажу вам по совести, Александр Михайлович, мало я верю в магазинные ружья. Излишний расход патронов!»
Поэтому военное министерство не спешило с отбором образца магазинной винтовки, откладывая перевооружение ею армии на будущее, а в первую очередь требовало заниматься отработкой нового однозарядного оружия меньшего калибра. В связи с тем, что создание малокалиберной винтовки приобретало первостепенное значение, в октябре 1889 года Комиссия по испытанию магазинных ружей была переименована в Комиссию по выработке малокалиберного ружья.
Мосин занялся конструированием однозарядной системы уменьшенного калибра. В очень короткий срок он успел подготовить первый образец. Дальнейшая работа над ее совершенствованием продолжалась до января следующего года. За основу Мосин взял винтовку француза Лебеля, считавшуюся тогда лучшей. Она претерпела следующие изменения. Калибр с 3,15 линий был уменьшен до 3-х (7,62-мм). Несколько преобразован ствол.
В отличие от лебелевской, мосинская конструкция позволяла вести огонь с примкнутым штыком. Мушка осталась бердановская, поскольку солдаты привыкли к ней. Затвор Мосин видоизменил. По предложению комиссии он спроектировал также ствольную коробку, причем в двух вариантах. Один из них предусматривал переделку оружия в магазинное. Штык к трехлинейке разработали оружейники Сестрорецкого завода.