今まで秘密鍵でLinuxサーバーにログインしていましたが、mac（PC）の買い替えをした場合は再度鍵ペアを作成する必要があるのでしょうか？

usb等で秘密鍵は新しいマシンに移動してあるのですがやはりログインできませんでした。

どなたかご教授いただければ幸いです。