国民收银机公司的总裁约翰·亨利·帕特森是一个杰出的现代商业先驱，也是现代销售术的鼻祖。沃森在他手下干了18 年，他的推销艺术和经营之道对沃森产生了巨大而深刻的影响。在帕特森的严格训练下，沃森如鱼得水，充分发挥出自身的潜能。仅3年，沃森就成了公司的明星推销员，其佣金破纪录地达到一星期1225美元。1899年，沃森被提升为分公司经理。到1910年，他已经成为公司中仅次于帕特森的第二号人物。但在那以后，厄运又一次向他袭来。
以独裁专横闻名的帕特森，总是解雇虽有功绩但可能对他造成威胁的雇员。1913年夏天，帕特森听信一个副总裁的谗言，认为沃森拉帮结伙、扶植亲信，便决定要辞退他。沃森努力为自己申辩，但毫无结果，无奈于次年4月愤而辞职。他立誓报仇，走出公司办公大厦时转身对一个朋友说："这里的全部大楼都是我协助筹建的。现在我要去另外创一个企业，一定要比帕特森的还要大！"
然而，重新创业又谈何容易。虽然帕特森给他一笔5万美元的分手费，但沃森失去了生活保障，丢了饭碗，年龄也快40岁了。他只好带着新婚不久的妻子和一个嗷嗷待哺的儿子，去纽约闯荡。
2个月后，沃森遇上了IBM前身的奠基者弗林特。弗林特是华尔街最红火的金融家，号称"信托大王"。他对沃森的才干早有所闻，旋即聘任他为计算制表记录公司的经理。这家弗林特属下的公司，主要生产天平、磅秤、计时钟和制表机等，由于经营不善，濒临倒闭的边缘。沃森之所以对这家公司感兴趣，主要看中它的产品。他认为计时钟、制表机等都是办公自动化的工具，具有广阔的商业前景。
沃森掌管公司伊始，就借贷5万美元，作为开发研究新产品的经费。其结果，制表机得到极大改进，在市场上成了畅销货。沃森采用他从帕特森那儿学到的一套方法，在1915年夏末发起了大规模的推销运动。公司销售额从1914年的420万美元，增至1917年的830万美元，几乎翻了一番。