任命一个外国人为中国使节，历史上是罕见的，这说明仲麻吕颇受朝廷器重和信任。阿倍仲麻吕获准回国的消息传出以后，长安朝野人士都前来送别，依依不舍。素与仲麻吕交好的诗友们，怀着惜别的激情，挥笔作诗赠别。王维在《送秘书晁监还日本国》中写道“……乡树扶桑外，主人孤岛中。别离方异域，音信若为通！”诗境深远，亲切感人。仲麻吕也以十分激动的心情写了《衔命还国作》的动人诗篇，赠答友人：“衔命将辞国，非才忝侍臣。……蓬莱乡路远，若木故园林。西望怀恩日，东归感义辰。平生一宝剑，留赠结交人。”仲麻吕在诗中抒发了他留恋中国、惜别故人和对唐玄宗的感戴心情，意味绵长，感人至深，它作为歌颂中日两国人民传统友谊的史诗，千百年来为两国人民所传诵。
　　但是，命运却偏偏和归心似箭的仲麻吕为难。他们在归国途中遇到了风暴，幸存者只有仲麻吕等十余人。传闻他在海上遇难，李白饱含深情挥泪写就中日友谊史上传诵千年的不朽名作《哭晁卿衡》：“日本晁卿辞帝都，征帆一片绕蓬壶。明月不归沉碧海，白云愁色满苍梧。”公元755年（天宝十四年）6月，历经艰险的仲麻吕回到长安后看到李白为他写的诗，百感交集，当即写下了著名诗篇《望乡》：“卅年长安住，归不到蓬壶。一片望乡情，尽付水天处。”