1901年，有个叫斯其凡洛夫的俄国大力士来到天津戏园表演，他声称：“打遍中国无敌手，让东亚病夫们见识见识，开开眼界”。霍元甲找上农劲荪，到戏园和斯氏比武。当斯其凡洛夫私下了解到霍元甲武功高强时，决定妥协。到约定比武那天，斯其凡洛夫临阵求饶，说：“我只是来天津表演的，我说的那些话不算数。”霍元甲让他登报认错，斯氏只好应允，随后很快离开了天津。
1909年，英国大力士奥彼音在上海摆下擂台，讥讽中国人是“东亚病夫”，上海民众十分不满，但又无人敢应战。农劲荪从报上得知此消息，遂向上海知名人士、同盟会员、革命党人陈其美推荐了霍元甲。霍元甲一到上海，上海各大报纸用大号字体刊登消息。霍元甲挑战奥彼音，奥和霍约定比武中不得使用指戳、足勾等中国武术技法，并约期在张园公开比赛。但到了比赛时间，却不见他的踪影，原来奥彼音已逃之夭夭。
1910年9月，日本柔道会对霍元甲吓跑俄、英大力士之事，很不服气，便挑选了十几名高手，找霍元甲较量。霍先让他的徒弟刘振声上场，刘以静制动，连胜对方五人。日领队非常恼火，自恃技艺纯熟，点名与霍元甲较量。双方刚一交手，日领队便知对手厉害，他企图黑手伤人，但被霍识破。霍元甲虚晃一招，用肘急磕其臂，日领队骨断筋折，只好认输。
在天津、上海等地，霍元甲凭借凛然正气和高超武技连败洋人，在清末的确令国人扬眉吐气。1910年7月7日，霍元甲在农劲荪和武术同仁协助下，在上海创办了“中国精武体操会”(后改名精武体育会)。他打破当时武林门户偏见，亲自教授霍家祖传的迷踪拳术，又延揽各派武术师到精武会当教师，传授学生学习各派武术。
孙中山对霍元甲“以武保国强种”的胆识给予了很高的评价。在精武会成立10周年之际，他亲临大会，题写了“尚武精神”四个大字，以示对霍元甲的纪念。
