1882年1月16日，胡文虎出生在缅甸的仰光。
他的父亲胡子钦，是中国福建省永定县金丰里中川村人，年轻时因为家境清贫，在1861年孤身漂洋过海，来到仰光，行医为生。由于南洋气候炎热，阳光强烈，当地居民容易中暑、头晕、疲倦，而胡子钦从国内带来的一种中药成药"玉树神散"，清凉解暑的效果相当好，所以很受欢迎。他逐渐积累起一点资金后，就在仰光一条偏僻的街道上买了房子，开设了一家永安堂药铺，行医卖药。胡子钦不但精于医术，而且为人忠厚，常做好事，当地人有了病都愿意到他这里来治疗，永安堂的生意也就越来越兴旺。后来，他与潮州来的姑娘李金碧结婚，建立了一个美满的小家庭。
胡文虎的出世，给这个家庭带来了更多的欢乐。转眼之间，胡文虎已经10岁了。小文虎长得浓眉大眼，身体健壮，聪明伶俐；性格倔强。他对父亲药铺里的事情兴趣很大，见什么学什么，而且一学就会，可就是不安心读书，经常逃学。胡子钦为儿子伤透了脑筋，可他业务太忙，没有更多的时间来照管孩子。为了不荒废儿子的学业，他同妻子商量后，毅然决定把文虎送回故乡，让他在祖父的照看下接受中国的传统文化教育。
在回国的轮船上，胡文虎听父亲说起故乡的贫困和家族的苦难历史，也表示一定要好好学习。可是，当时中国私塾里教的，还是《四书》、《五经》等古文，枯燥难懂，胡文虎越读越没有劲，终于又犯了老毛病，一有机会就溜出学堂去玩耍。祖父没有办法，只好专门请了一个私塾先生到家里来教他。
那一年，本来就贫困的永定县又遭受了特大灾荒，穷苦百姓只好卖儿卖女度荒年。少年胡文虎看着这种凄惨的情景，才真正懂得了生活的艰难。他十分同情灾民，有一次看到一个中年妇女跪在地上叫卖女儿，他也难过得泪流满面，忙掏出平时积下来的四个铜板给她们。还有一次，一个饿极了的乞丐偷吃人家的烧饼，被凶狠的老板打得死去活来，胡文虎急忙上前劝阻。老板说："你不让我打他也行，那你得为他还我的烧饼钱！"胡文虎气愤地说："等我长大了，回南洋发了财，一定来还你的烧饼钱！"谁知老板哈哈大笑，蔑视地说："真是白日作梦！你也能发大财？除非太阳从西边出来！"