Центральная научная библиотека имени Н.И.Железнова начала свою работу одновременно с открытием Петровской земледельческой и лесной академии 3-го декабря 1865 года. Инициатором создания библиотеки был первый директор Академии профессор Николай Иванович Железнов. Библиотека располагалась в правом крыле Главного корпуса,  занимала большой просторный зал и одну смежную с ним комнату. Эти помещения одновременно служили читальным залом и книгохранилищем. 15 сентября 1865 года Совет Академии утвердил Правила пользования Библиотекой. Был назначен Библиотекарь - профессор В.Н.Андреев, затем еще один сотрудник – слушатель Академии Г.Гофман.   

Целый ряд учреждений и отдельных лиц выразили желание о пожертвовании книг: Библиотека Академии наук (БАН), Императорская публичная библиотека (ныне Российская национальная библиотека имени М.Е. Салтыкова-Щедрина, РНБ), Императорское Вольное экономическое общество, Санкт-Петербургский лесной институт (был закрыт в 1865г.); из частных лиц самое крупное пожертвование было сделано профессором Н.И.Железновым.

В 1894 году был назначен  директор Карл Федорович Арнольд, который проработал в этой должности до 1919 года. Под его руководством книги были классифицированы по десятичной системе Брюссельского международного библиографического института, составлен систематический каталог. Уже в дореволюционное время Библиотека имела несколько каталогов: алфавитный каталог книг, систематический книг, алфавитный периодических изданий на русском языке и иностранных (английском, немецком).

К 1917 году  библиотека заняла почти весь первый этаж Главного корпуса и значительную часть его подвального помещения.  Первое время библиотеку посещали около 800 профессоров и студентов. Действовал достаточно жесткий режим, установленный в Правилах пользования книгами библиотеки. В 1876 г. по решению Совета Академии была открыта учебная библиотека (БУП).  С 1895 года стали ежегодно выделяться незначительные средства.  С 1907 года  учебная библиотека перешла в ведение студенчества: было избрано Правление БУП, организован сбор средств для пополнения ее фондов. На деньги студентов был создан и фонд художественной литературы. На комплектование Фундаментальной библиотеки с 1865 года по 1912 год ежегодно ассигновалось по 3 тыс. руб., а в 1913 и 1914 - по 6 тыс. рублей,  в 1897-1914 годах было получено дополнительно 36 200 рублей, а с учётом сметных ассигнований – 189 200 руб.

За годы существования библиотеки сформировался уникальный фонд научной, учебной, художественной литературы ХV-XIХ вв. Библиотека хранит книжные памятники - инкунабулы, палеотипы, рукописные издания: «Труды по земледелию Колумеля, Варрока и Катона» (отпечатано в г. Болоньи в 1494 г.), «Книга о правильном искусстве дистилляции и перегонки различных настоев, преимущественно целебных трав», Страсбург: 1500 г., Crescentiense Petro «Книга о сельском хозяйстве и всяческих видах и породах растений и животных в каковых книгах нет ничего не подтвержденного опытом», 1538 г.; Л.Магницкий «Арифметика», 1703 г.; И.Комов «О земледелии», 1788 г. и др.  Как ценные реликвии хранятся в Библиотеке авторские экземпляры виднейших ученых с их личными дарственными надписями, первые публикации произведений К.А.Тимирязева, многие из которых снабжены личными пометками и автографами; труды Д.Н.Прянишникова, Н.И.Вавилова, В.Р.Вильямса, В.П. Горячкина, П.И.Лисицына. В разное время библиотека получила ценнейшие дары от профессоров И.Д.Ауэрбах (около 800 томов), М.И. Придорогина (830 томов), профессоров Московского университета А.П.Богданова и И.Ю.Зограф (около 6000 томов), Н.М.Кулагина (11 тыс. томов), В.Ф.Болдарева,  А.Н.Лебедянцева (4 тыс. томов) и многих выдающихся деятелей науки и образования. Эту традицию дарительства можно назвать первой и самой главной патриотической традицией Академии. В настоящее время традиция продолжается,  в библиотеку были переданы коллекции академиков М.И. Синюкова, С.С. Сергеева, Н.И. Клейменова, И.С.Шатилова (более 3000 книг).

В начале января 1915 года библиотеке насчитывалось 63 тысячи томов научных изданий. В годы  первой мировой войны библиотека пришла в упадок; резко сократилось комплектование, особенно иностранной литературой. Усилилась помощь библиотеке после окончания гражданской войны. Библиотека стала получать государственный обязательный бесплатный экземпляр печатных изданий по сельскому хозяйству. В ее фонды были переданы книги библиотеки факультета рыбоведения, книги по сельскому хозяйству мелиоративного факультета Межевого института, фонд научно-исследовательского совхозного института и других учреждений. Библиотека вела активный книгообмен со 127-ю отечественными научными учреждениями. В период с 1914 до 1922 годы  фонд увеличился более чем втрое; штат вырос до 15 человек.

Большое участие в формировании фонда иностранной литературы принимал выдающийся ученый Н.И. Вавилов. Бывая в экспедициях, он приобретал много литературы и  отправлял ее с места своего пребывания или передавал по приезду в библиотеку. Среди отправленных книг была монография Персиваля о пшенице, книги по генетике, отчеты Ротамстедской станции, периодические издания. Благодаря Н.И.Вавилову было возобновлено сотрудничество с Американскими опытными станциями на получение из США материалов по американскому опытному делу. Большой вклад в процесс комплектования внес также и Д.И. Прянишников – благодаря его ходатайству перед Народным комиссариатом по земледелию представилась возможность восполнить образовавшиеся лакуны в комплектах иностранной периодики.

В 1937 году на библиотеку Академии было возложено научно-методическое руководство и библиографическое обслуживание всей сети библиотек сельскохозяйственных вузов системы Наркомзема СССР. В тридцатые годы коллективом составлены и изданы «Библиография указателей сельскохозяйственной литературы», «Описание русской сельскохозяйственной периодики за 200 лет». Составлялась реферативно-библиографическая информация по истории сельского хозяйства, стали выпускаться рекомендательные и ретроспективные тематические списки литературы, «Бюллетень новых поступлений».

В годы Великой Отечественной войны встала задача сохранить миллионный фонд старейшей научной сельскохозяйственной библиотеки. Ценная литература, редкие книги, каталоги, инвентарь и значительная часть справочно-библиографического фонда были спрятаны в подвалах Главного корпуса,  более 500 тыс. книг было эвакуировано в г. Самарканд. Огромная работа с лета 1942 года была проведена заведующей БУПа – Зеленовой Надеждой Михайловной. В 1944 году библиотека возвратилась в Москву, но основная часть фонда учебной литературы и весь вывезенный фонд художественной была подарена библиотеке Самаркандского сельскохозяйственного института. В военные годы продолжалась интенсивная работа по комплектованию фондов текущими и старыми изданиями. Общий фонд увеличился более чем на 70% по сравнению с 1940 г. и составил 1,3 млн. томов. Заведовал в то время отделом научной обработки литературы С.И. Усаров, благодаря его трудам были приобретены все ценные собрания. В годы войны сотрудники библиотеки трудились в отрядах по строительству оборонительных сооружений, а также в госпитале, который располагался на Лиственничной аллее.

Деятельность библиотеки после Великой Отечественной войны была восстановлена в полном объеме.  В 1947 году из читального зала Фундаментальной библиотеки было выдано столько же книг, сколько за 50 дореволюционных лет. Восстановлен книгообмен с отечественными и зарубежными учебными и научными учреждениями; восстановлены научно-библиографическая работа и издательская деятельность, ведение справочного аппарата библиотеки, организация работ по переплету и реставрации книг. В 1948 году общая численность сотрудников составила 48 человек. Библиотека стала называться Центральной научной.

С 1962 г. научно-библиографический отдел библиотеки стал выпускать серию биобиблиографических указателей  «Ученые Тимирязевкой академии». Были изданы биобиблиографические указатели И.А. Стебута, А.Ф. Фортунатова, М.К. Турского, Д.Н.Прянишникова, Н.М. Кулагина, И.А. Каблукова, В.И.Талиева, М.И. Придорогина, П.М.Орлова и других. С начала 1990 годов работа продолжилась,  были выпущены  указатели, посвященные   Пупонину А.И.. Крючкову А.В., Васильеву  Н.В.,  Дунаеву П.П., Хлебутину Е.Б., Черникову В.А., Ягодину Б.А., Комиссарову В.А., Калмыковой Т.И., Емцеву В.Т., Прохорову  В.А. Баутину В.М., Кауричеву И.С., Тараканову Г.И, Панову Н.П., Воробьеву С.А,. Смирнову К.В., Кулешову П.Н., Лыкову А.М., Майсурян Н.А. Создана картотека  «Труды ученых Тимирязевки», насчитывающая  55 тысяч печатных карточек, картотека летописи Академии. В разное время в отделе трудились профессионалы высокого класса Островская Е.П., Сатонкина З.В., Пупято Г.К., Маяцкая Т.В., Лабынцева Л.С., Макаренко Г.А.

Был налажен книгообмен более чем с 250 учебными и научными учреждениями Советского Союза, международный обмен велся с 27 странами.  Библиотека стала членом вузовской Секции библиотек г. Москвы при Методическом кабинете библиотеки Московского университета и осуществляла методическое руководство шести библиотек Московских вузов. В 1967 году решением Совета Министров РСФСР от 14 апреля № 268 «Центральной научной библиотеке Московской ордена Ленина и ордена Трудового Красного знамени сельскохозяйственной академии имени К.А.Тимирязева присвоено звание имени Н.И.Железнова». 

В середине 70-х годов ректор М.И. Синюков вновь инициирует вопрос о строительстве здания для библиотеки.  В 1979 году завершается его строительство (архитекторы Н.В. Устинович, С. Бедунков, С. Герасимов, С. Осипов). Строительство здания библиотеки было объявлено ударной комсомольской стройкой. В 1979 году, не закрываясь ни на один день, библиотека переехала в новое здание и открыла свои двери. В новой библиотеке общей площадью 11 тысяч квадратных метров - 1000 посадочных мест, 9 читальных залов, два конференц-зала, кинозал, книгохранилище, рассчитанное для хранения до трех миллионов документов, большие холлы. Декоратором-оформителем стал известный скульптор Г.Д. Распопов. Он работал в станковой скульптуре, его барельефы и портреты ученых украшают залы библиотеки.

Коллективом ведется большая гуманитарно-просветительская работа. Гостями литературных клубов при библиотеке были знаменитые люди: Т.С.Мальцев, Ю.И.Вавилов (сын Н.И.Вавилова), В.А.Чаянов (сын А.В.Чаянова), путешественники Д. Шпаро, Ф. Конюхов, писатели К. Симонов, И. Эренбург, В. Солоухин, В. Чивилихин, П. Проскурин, Э. Хруцкий, А. Арканов, А. Иванов, М. Жванецкий, поэты Л. Ошанин, Е. Евтушенко, Б. Окуджава, Р.Казакова, Р.Рождественский, артисты Л.Касаткина, В.Ливанов, Е.Леонов, В.Смехов, А.Михайлов, В.Лановой, Н.Караченцов, Л.Чурсина.  В 1992 году выставочные залы библиотеки стали первой российской выставочной площадкой для экспозиции картин Н.Рериха, вывезенной из Тибета. В 2002 году прошла первая научно-историческая конференция, посвященная памяти основателя имения Петровское-Разумовское – видного государственного деятеля России XVIII века графа К.Г. Разумовского.

В 1980 году создан  отдел научно-технической информации.  Главная задача отдела состояла в информационном содействии научно-исследовательской работе, а также освещение вопросов по проблемам высшей школы.  Это опыт помог позднее коллективу активно внедрять инновационные компьютерные технологии. В последующие годы именно сотрудники этого отдела стали стержнем коллектива: Антонова О.Ф., Дунаева Н.В., Зайцева Т.Г., Петрова-Спиридонова Н.М., Тюрнина Е.В., Серпорезюк Н.Б., Юдина О.А. К концу 80-х годов ЦНБ представляла собой хорошо организованное подразделение Академии с продуманным дифференцированным механизмом обслуживания и гибкой системой справочно-поисковых средств для всех видов информационно-библиографической деятельности.

В  2000 году приобретена автоматизированная библиотечная система «ИРБИС», обновлен компьютерный парк. Начата работа по созданию электронного каталога с использованием технологии заимствования записей из Сводного электронного каталога российских библиотек. Большую работу по внедрению новых технологий провели директор Н.В. Дунаева, заместитель директора О.И. Юдина, заведующая отделом научной обработки документов  Е.И.Завальная.

Сегодня ЦНБ остается самой крупной и современной вузовской библиотекой сельскохозяйственной отрасли, стоящей на передовых позициях российского библиотечного сообщества. В ее состав в 2014 году влились библиотеки Института механики и энергетики имени В.П. Горячкина и Института природообустройства имени А.Н. Костякова. В фондах библиотеки хранится около 4,2 миллиона документов. Библиотека ежегодно приобретает более 50 тысяч книг и периодических изданий, в том числе на электронных носителях.