十九世纪中叶，中国传统数学以一个小的**走向终结，伴随帝国主义经济掠夺和文化宣传而来的是西方数学的传播与普及，过程相当缓慢和艰难。日本自明治维新以来也学习西方数学，并后来居上而超过中国。自十九世纪末开始，大批中国留学生到日本、欧美学习数学，他们回国后创办大学数学系，尝试做研究。到1919年五四运动前后，中国现代数学事业稍具雏形，遗憾的是，曾经辉煌一时的中国传统数学并没有融入西方数学，此后只作为历史存在和文化影响而成为数学史的研究对象。这就是说，中国现代数学基本上是另起炉灶，从西方移植过来的。
十九世纪中叶的中国数学
西方数学的传播
鸦片战争以后，中国数学出现了新的发展态势，一方面，西方传教士借五口通商的便利，在传教的同时，扩大西方数学的传入；另一方面，清朝统治集团内部的一些洋务派人士注意支持中国的科学事业，包括中国传统数学的发展，以及西方数学典籍的翻译。李善兰是这一时期最重要的中国数学家。他既精于中国古代的传统数学，又能吸收西方的一些数学观念加以糅和，代表了那一时代中国数学的最高水平。
1843年，英国人麦都思（W.H.Medhurst，1796—1857）在上海设立墨海书馆，印刷《圣经》等传教需用的材料。1847年8月26日，受英国伦敦会的派遣，伟烈亚力来到上海主持墨海书馆的出版事务。伟烈亚力主持馆务之余，借他在伦敦自学的一点汉语知识，研读中国的天文数学典籍，并涉猎西方科学著作的汉译工作。他自称：“余自西土远来中国，以传耶稣之道为本，余则兼习艺能。”他和李善兰合作翻译的《几何原本》后9卷，以及第一本介绍微积分的译作《代微积拾级》分别在1857年和1859年出版，成为继利玛窦和徐光启翻译《几何原本》前6卷之后向中国传播西方数学的又一重要事件。
进入十八世纪六十年代之后，英国人傅兰雅、美国长老会牧师狄考文（C.W.Mateer，1836—1908）也参与翻译西方数学著作，影响很广。
另一方面，清政府中的洋务派主张学习西方技术，特别注意对数学的支持。经过一番激烈的争论，同治帝接受恭亲王奕�的奏请，于1862 年在同文馆设立天文算学馆。1865年，曾国藩、李鸿章奏准在上海设立江南制造局。1868年起，在其内设翻译馆，有关代数学、三角学、概率论等一大批西方数学著作被译成中文。政府官员中也有一些人专攻数学，如江苏巡抚徐有壬，与同时代的数学家李善兰等多有来往，自己亦有著作多种；江西的吴嘉善曾为翰林院编修，尝与徐有壬共同研究数学；湖南天算家丁取忠曾在1860年应胡林翼之请到武昌作幕宾，晚年和他的弟子左潜（左宗棠的从子），曾纪鸿（曾国藩的次子）在长沙白芙堂研究数学。
1866年，曾国藩“邮致三百金”到南京资助李善兰出版《则古昔斋算学》24卷，这部著作代表了当时中国传统数学的最高水平。
然而，尽管有传教士和洋务派人士对数学的支持，中国数学前进的步伐仍然十分缓慢。
传统数学的终结
在腐朽的清皇朝统治下，一部分比较开明的知识分子抛弃了对功名富贵的追求，以研究数学排遣忧闷，另一部分则追随洋务派以研究数学而图强。同时，也因多少受到外来数学思想方法的影响，十九世纪中期的中国传统数学出现了一个小的**，仅以函数的幂级数展开而论，从1845至1865的20年间，就有项名达、戴煦、李善兰、徐有壬、顾观光、邹伯奇、夏鸾翔等先后发表研究成果。李善兰的数学研究范围更广，在组合恒等式上的研究至今仍被国际数学界称道。
戴煦（1805 —1860），浙江钱塘（杭州）人。其兄戴熙官为兵部右侍郎，但他淡于功名，绝意仕进，终生以研治数学为乐。他先与项名达为忘年交，校注古代算学著作，1845至1852年间，完成数学著作4种9卷，总名为《求表捷术》。其内容涉及对数造表方法、三角函数造表法、三角函数对数造表法。对数表的制作，若按《数理精蕴》的办法，“布算极繁，甚至经旬累月而不能求一数”。他的工作是找到二项式，对数函数，三角函数的对数函数等一系列的函数幂级数展开式，成为造表的有力工具。在微积分未传入我国的当时，戴煦的工作是相当艰难而深入的。1845年，英国教士艾约瑟（J.Edkins，1823—1905）慕名求见，戴煦以“中外殊俗异礼”托故辞之。1860年，太平军攻克杭州，戴煦随其兄戴熙自尽。
徐有壬（1800 —1862），浙江湖州人，历任云南按察司，湖南布政司，以至江苏巡抚。自幼对数学有浓厚兴趣，结交许多当时数学名家，著有《务民义斋算学》，在三角函数和反三角函数的幂级数展开式上有些新见解，自称其为“缀术”。1860年，太平军攻克苏州时被杀。顾观光（1799—1862），江苏金山人，以医生为业，兼通天文算学。身后汇刻有《武陵山人遗书》，在对数表制作，《周髀算经》校注上有所贡献。邹伯奇（1819—1869），广东南海人，对几何光学颇有研究，同时在函数表制作、计算尺的使用上做过探讨。夏鸾翔（1823—1864），浙江杭州人，与戴煦为世交。1963年游广州，与邹伯奇共研数学，主要工作为三角函数表的制作，以及圆锥曲线的综合研究。湖南的丁取忠（生卒年不详）著有《数学拾遗》，对一次同余式求解有所阐述。晚年在长沙古荷花池的白芙草堂，与左潜（？—1874）、曾纪鸿（1848—1877）治数学。他们也研究幂级数的展开，曾纪鸿用反三角函数的幂级数展开式求得圆周率的第24位准确数字。
在晚清数学家中，李善兰无疑是最杰出的一人。李善兰的主要数学成就有：尖锥术、垛积术、素数论。在西方的微积分未传入的情况下，李善兰独自用尖锥术发现幂函数的定积分公式、二次平方根的幂级数展开式，以及各种三角函数、反三角函数的幂级数展开式。他所使用的求对数的方法，比传教士带进来的方法要高明、简捷。一般认为，在李善兰的尖锥术的基础上，中国传统数学完全可以走上解析几何、微积分的近代数学的道路。
李善兰集前人之大成，在垛积术上有重大突破，其内容属于今之“组合数学”。他创造了三角自乘垛和乘方垛两类新的垛积，其中的组合公式
被今人称为李善兰恒等式。晚清中国数学结果中具有一定世界意义的，恐仅此一端。
李善兰在素数论方面，证明了许多结果，其中包括法国数学家费马（P.Fermat，1601—1665）在1640年得出的一条素数定理：
若ad-1能被素数N整除，则N-1能被d整除。
李善兰和伟烈亚力等合作翻译过大量西方科学典籍，成为近代中国科学的先驱和传播者。1868年，他应召到北京，在同文馆担任数学教席，官至三品，但他淡于利禄，潜心于数学教学和研究。李善兰之后，中国传统数学再也没有出现有较大价值的成就。
大量翻译西方数学典籍
伟烈亚力经营的上海墨海书馆首先大量翻译西方的科学典籍。1852 年，李善兰和伟烈亚力相识，两人通力合作，先后译出《几何原本》后9卷（1858年），《代数学》（1859年），《代微积拾级》（1859年）等数学著作。《代微积拾级》是中国第一部微积分译作，影响巨大，其中使用的微分、积分、函数、级数、曲率等名词均始自此书，沿用至今。李善兰在翻译时用了一些西方数学的符号，但大量使用中文字母和自创的符号，读来十分困难。
第二次大量翻译科学典籍是在1865 年曾国藩、李鸿章奏准设立的江南制造局。主持数学典籍翻译的是华蘅芳（1833—1902）。他是江苏无锡人，爱好数学，1861年到安庆曾国藩军中佐理洋务，然后到上海，在江南制造局供职。他除参加地学等书籍翻译之外，主要和英人傅兰雅合译数学著作。十余年间译书以下6种：《代数术》（1872年）、《微积溯源》（1872年）、《三角数理》（1877年）、《代数难题解法》（1879年）、《决疑数学》（1880年）、《合数术》（1887年）。其中《决疑数学》是我国第一本有关概率论的数学译作。与李善兰的译作相比，华蘅芳翻译的著作内容较为丰富，语言更为流畅，但使用的符号仍未有大的变化。
中日数学实力的逆转
在十八世纪七十年代以前，日本数学一直在向中国学习。日本翻译和传播西方数学的时间也比中国稍晚。1859年，李善兰和伟烈亚力翻译的《代微积拾级》很快东渡日本。“18世纪60年代，日本和算家能读到的最好微积分书籍只有Loomis的《微积分》中译本（即《代微积拾级》）”。
现在日本使用的数学名词有许多是从中国传去的，如微分、积分、函数、有理数、无理数、方程式等等，中日所用完全一样，其来源是《几何原本》、《代微积拾级》等中国译本相继传入日本。
但自1868年明治维新之后，日本曾有“废止和算，专用洋算”的指令性要求。1872年的学制令等文件，明文规定：“算术以洋法为主。”日本在重视工业发展的同时，重视基础科学包括数学的发展。1877年，菊池大麓自英国学习数学后归国，进入文部省改革科学教育。日本数学会在1877年成立，1877年东京大学成立理学部，其中有数学教授。1898年，高木贞治到德国向世界大数学家希尔伯特（D. Hilbert 1862—1943）研习代数数论，日后解决了著名的类域论问题，为世界一流数学家。反观中国，自容闳1872年组织幼童出国留学，主要学习“军政，船政，步算，制造诸学”。十九世纪多批留学生中，竟无一人专习数学。洋务派提倡学习数学，响应者寥寥。同文馆的天文算学馆，学生中无人能超过李善兰。数学之落后，自是意料中事。1894年甲午战争之后，中国数学已明显落后于日本，李善兰时代的数学优势丧失殆尽。1898年之后，中国向日本大举派遣留学生，其中包括派人学习数学。
晚清时期的中国数学教育
1882年李善兰逝世，中国传统数学研究几乎完全中断，所有的数学活动只是如何向西方学习的问题。中国现代数学不得不另起炉灶，从基础的数学教育开始。教会学校、京师大学堂、中小学校开设数学课程，派遣学习数学的留学生，出版基础的数学教材，就是最初的几步。
1.数学教材。
西方传教士所办的教会学校，大多是宗教课程，间或有一些数学课。第二次鸦片战争之后，西方各教派在中国所办的学校趋于联合。 1877年，美国传教士狄考文（C.W. Mateer 1836—1902）主持成立了教科书委员会，计划编写初级和高级两套教材，每套都有“算术、几何、代数、测量学、物理学、天文学”。狄考文和平度人邹立文合编了一套数学教材：1885年出版《形学备旨》（形学即几何学），1890年有《代数备旨》，1892年有《笔算数学》。 1893年美国传教士潘慎文（A.P. Parker 1850—1924）和谢洪赉合译的《八线备旨》和《代形合参》（即解析几何）出版。这些书开始采用阿拉伯数字，+，-等国际通用符号。它们发行很广，每种书都重印了十几次，清末许多学校都曾采用作为教科书。
2.同文馆中的数学课程。
1868年设天文算学馆以后，李善兰受聘为第一任数学教习（即教授）。同文馆的历任教习中，中文教习当然由中国人担任，其余的外文、理化、生物、地学、军事、医学、法政等等学科的教习均延请外人承担，而数学是唯一的例外。李善兰学贯中西，被认为是“才具很高的人”，受到同文馆上下的尊重。在某种意义上说，数学和西方的差距相对地要小一些。
同文馆的数学课程，按规定第四年有算术、代数，第五年习几何，以及平面和球面三角，第六年有微分积分，但从现存考试题目来看，没有考过微分积分的题目。李善兰去世后，席淦、王季同先后于1886年、1895年继任教习，两人的水平不及李善兰，没有多大作为。此外，1873年起在上海广方言馆任算学教习的刘彝程在中国传统数学上稍有研究。
洋务派人士在筹办船政学堂、水师学堂、武备学堂等军事学校时，都要安排数学课程。1867年开办的福建船政学堂，基本课程包括法文、算术、平面几何和画法几何，以及一门详论150匹马力轮机的课程。民间兴办的书院，亦设算学课程。上海求志书院的算学课程为西方数学与中国传统数学的混合体，其中有勾股、四元代数、平面几何、三角、微分、级数等内容。
3.科举中的算学科。
1870年，沈葆桢，英桂奏请“特开算学科”，内称“水师之强弱，以炮船为大宗，炮船之巧拙，以算学为根本”。1875年，礼部又请考试算学，然二事均未能获准。1887年，陈秀莹有“奏请将算学归入正途考试疏”，李鸿章予以支持，称“为造就将才起见，要皆以算学入手”，建议由各省士子、水师武备学堂等学生及教学人员参加考试。当年，总理衙门同意加开算学科。 1988年午子乡试，报考算学的有32人，按每20名录取1名的比例，当年取中1名。
二十世纪初年普及西方数学
明清时期，中国传统数学的教育皆由师徒间个别传授。百日维新前后，开始提倡办新法学校，算学是其中一门主课。此时，民间的数学团体和数学杂志也开始出现。湖南浏阳的算学社以培养贤才而劝学算学，谭嗣同曾著有《兴算学议》。1900 年，周达（号美权，1879—1949）在扬州创立知新算社，除研究中国古算之外，主要提倡学习西算。他本人著有《周美权算学十种》，且从1902年起5 次去日本交流数学。此外，四川重庆的算学馆、上海松江的云间算学会、浙江瑞安的学计馆等都是研究和介绍中西方数学的民间组织。1900年，杜亚泉（1872—1934）在上海出版《中外算报》；1912年，崔朝庆（1860—1943）在南通创办《数学杂志》，也都主要致力于西算的传播。
1902和1904年，清廷先后颁布壬寅学制和癸卯学制，规定小学堂有算术课，中学堂设算术、几何、代数、三角；高等学堂授解析几何、微积分。这两个学制虽然推行很慢，但基本上是仿照西方的。辛亥革命后的 1912年，颁布新学制（壬子学制），所设数学课均为西方数学。商务印书馆、中华书局大量出版自己编写的《共和国教科书》、《民国教科书》等系列数学教材，同时也翻译国外的优秀数学教科书。传统的中国数学不再教习，学校中完全讲授西算。课本中除多用文言文表述之外，已普遍采用横排，使用阿拉伯数码和国际通用的数学符号，西算就此普及。
1898年成立的京师大学堂，其数学教育一仍同文馆旧制，未有大的变化。1906年使用的代数学教科书为日本上野清著，中国徐虎臣译。该书仍为直排，文言文，没有阿拉伯数字，数学记号仍沿用李善兰所创的那一种。京师大学堂所开课程中最高为微积分方程论和整数论。到辛亥革命为止的十余年间，京师大学堂没有培养出较有成就的数学家。 1912年，京师大学堂改名为北京大学，1913年成立数学门，1919年改门为系，渐有现代数学高等教育的雏形。辛亥革命以后，京师优级师范学堂改为北京高等师范学校，设立了数理科。这是民国初年培养数学专门人才的两所高等学府。稍后，又在武昌、南京、成都等地设立高等师范学校，它们的数理系培养了大批数学教师。
十九世纪派往欧美的大量中国留学生中，专习数学的未见记载。1902 年，冯祖荀（1880—？）去日本第一高等学校和京都大学理学部研习数学，归国后任北京大学数学教授，以后长期担任数学系主任。辛亥革命前到美国学习数学的几位学者对后来中国数学的发展较有影响，其中胡敦复（1886—1978），1904—1907年在康乃尔大学获学士学位；郑桐荪（1667— 1963）也在1907—1910年间就读于康乃尔大学习数学与物理；秦汾（1883—1971）于1906年去哈佛大学学习天文与数学，1909年毕业，并继续攻读，于1913年成为中国在数学学科方面获硕士学位的第一人。
1908年，美国国会同意退回庚子赔款的一部分，用作中国学生赴美留学之用。1909年派出的首批中有王仁辅（1886—1959），他在哈佛大学学习数学，1915年获硕士学位，回国后在北京大学任教授。 1910年的第二批留学生中有多人攻读数学。其中的胡明复（1891—1927），1917年在哈佛大学获博士学位，博士论文《具有边界条件的线性微积分微分方程》发表在《美国数学会汇刊》上。这是中国以数学研究而获博士学位的第一人，他的博士论文也是中国数学家发表的第一篇有现代水平的数学论文。1910年赴美国康乃尔大学研习数学物理的还有赵元任（1892—1982），他在1918年获哈佛大学的博士学位，回国后先在清华学校教授数学和物理学，后来转向语言学研究，成为语言学家、作曲家。姜立夫（1890—1978）是1911年第三批赴美留学生中的一员。他在1918年以《非欧的线——面几何》的论文，也在哈佛大学获博士学位，1919 年回国后在南开大学任教授，培养了一大批有成就的数学家。姜立夫在现代中国数学界深孚众望，以后成为中央研究院数学研究所的第一任所长。
1919年五四运动之前，到法国学习数学的有何鲁（1894—1973）、段之燮（1890—1969）、郭坚白（1895—1959），他们先后在里昂大学、巴黎大学等校获硕士学位。熊庆来（1893 —1969）于1913年考取云南公费留学名额，在比利时、法国等地学习数学，回国后办东南大学、清华大学等名校的数学系，对现代中国数学贡献很大。