1950年大学毕业后，他进入中国科学院数学研究所力学研究室工作，从此开始了从事力学研究的生涯。在钱伟长领导下，力学研究室是一个非常活跃的研究集体。刚迈出大学校门的胡海昌，在短短几年内就在弹性力学、板壳理论等领域发表了约30篇论著。其中尤为重要的是发表于《物理学报》（1954年10卷2期）上的《论弹性体力学和受范性体力学中的一般变分原理》。该文提出固体力学中的三类变量广义变分原理，这一原理推广了最小势能原理，是用位移、应变和应力为自变函数的一种无条件变分原理，对弹性力学、变分原理、力学中的数值方法产生了深远影响。1955年，日本学者鹫津久一郎（1921～1981）得到类似结果。他们的变分原理后来被称为胡一鹫津原理。
1956年，中国科学院力学研究所成立，胡海昌任该所助理研究员。同年，他参加的以钱伟长为首的集体研究成果《弹性薄板的大挠度问题》获中国科学院自然科学奖二等奖。以后，直至1965年，胡海昌一直在中国科学院力学研究所工作，任副研究员、固体力学研究室主任，从事早期的火箭总体设计和壳体稳定性研究。
60年代初，我国集中了一批优秀专家研究空间技术。1966年，胡海昌到中国空间技术研究院空间飞行器总体设计部工作，历任空间飞行器总体设计部副主任、科技委员会主任、名誉主任等职，1981年被聘为研究员。胡海昌在运用理论知识解决实际问题、指导工程技术工作的同时，仍坚持从事理论研究，不断取得新的成果。
1981年，胡海昌当选为中国科学院学部委员。
在从事科学研究的同时，胡海昌还热心于教育事业。从50年代起，他在北京大学数学力学系讲授弹性力学、板壳理论、薄壁杆件理论、弹性力学中的变分原理、振动理论等多门课程，还在清华大学、中国科学技术大学、北京航空航天大学等校兼职，并自1957年起，开始指导研究生。自1979年起，任北京大学、浙江大学兼职教授、首批博士生导师。胡海昌还担任了国务院学位委员会力学评议组成员、中国振动工程学会理事长、中国气功科学研究会学术委员会副主任、《振动工程学报》主编等职。曾任中国力学学会第一、第二、第三届理事，第三届副理事长，现任名誉理事；《力学学报》副主编、《振动与冲击》主编等职。
1978年以后，还先后担任北京市第五、第六、第七、第八届政治协商会议委员，全国第八届政治协商会议委员。
