少有才学，南齐时，以太学生游于竟陵王萧子良西邸，历始安王侍郎、建安征虏府主簿功曹，兼记室参军。诗为谢脁所称赏。入梁，官至为晋安王侍郎。事迹附见《南史》卷五九《王僧孺传》后。史称其“盛有才藻，卒于晋安王侍郎”（《南史》）。
虞羲的诗以《文选》所录《咏霍将军北伐》最为有名。这首诗写沙场烽火，如“长城地势险，万里与云平”、“飞狐白日晚，瀚海愁云生。羽书时断绝，刁斗昼夜惊”，颇有气势。诗中歌颂霍去病伐匈奴的战功，并对他的早死感到惋惜，反映了齐梁间一些人希望北伐、平定中原的意愿。虞羲还有一首抒情诗《送友人上湘》写离别之情：“共盈一樽酒，对之愁日暮；汉广虽容，风悲未可渡。”用典贴切，感情真挚。其他如《见江边竹》、《春郊》、《咏秋月》等，也有一些清丽之句。
虞羲原有集11卷，《隋书·经籍志》录有《虞羲集》9卷，已佚。今仅存文1篇，诗12首，收入《全上古三代秦汉三国六朝文》、《先秦汉魏晋南北朝诗》中。
拥旄为汉将,汗马出长城。
长城地势险,万里与云平。
凉秋八九月,虏骑入幽并。
飞狐白日晚,瀚海愁云生。
羽书时断绝,刁斗昼夜惊。
乘墉挥宝剑,蔽日引高旍。
云屯七萃士,鱼丽六郡兵。
胡笳关下思,羌笛陇头鸣。
骨都先自詟,日逐次亡精。
玉门罢斥候,甲第始修营。
位登万庾积,功立百行成。
天长地自久,人道有亏盈。
未穷激楚乐,已见高台倾。
