1924年夏天，赤色职工国际运输工人代表大会在莫斯科召开，林伟民代表香港海员工会参加。期间，他到莫斯科、列宁格勒和南俄等地参观，与当地工会和工人群众见面，互相交流经验。他还前往莫斯科东方劳动者共产主义大学，同旅俄党的负责人罗亦农及中国学员相见，并作了关于“实行罢工、与帝国主义和反动派进行斗争问题”的报告。林伟民热情洋溢、风趣生动、滔滔不绝地讲了两个小时，博得学员们的一致喝彩。

　　旅俄党组织认为，林伟民在长期的反对帝国主义和外国资本主义侵略压迫的斗争中，立场坚定，勇敢无畏，处处表现着中国工人阶级的优秀品质，已经具备一名共产党员的条件，委托罗亦农对林伟民一方面进行马克思主义和中国共产党性质任务等的宣传教育，另一方面征求他加入中国共产党的意见。林伟民回想起自1922年以来，在香港海员大罢工、上海海员工人运动期间，与共产党人的来往接触、朝夕相处、并肩战斗中的点点滴滴，以及主动寻找和争取共产党指导支持的经历过程，深刻感受到只有共产党才真正与工人阶级心连心、共患难，自己早就怀有敬仰之情。此番得到罗亦农等共产党人的直接教育，对党的认识又有所加深，于是毫不犹豫地表示愿意加入。后经罗亦农介绍，1924年夏天，林伟民在莫斯科加入了中国共产党，成为外洋广东海员中第一个入党的工人同志。