gsubで句読点とサ変接続を取り除く方法

RMeCabを使った形態素解析で、文章中の句読点（。　、）とサ変接続（”　’）を取り除く方法を教えて頂けませんでしょうか？下のコードを試したのですが、消すことができませんでした。

data_clean <- gsub('。', "", data)
data_clean <- gsub('、', "", data)
data_clean <- gsub(',', "", data)
data_clean <- gsub('"', "", data)
data_clean <- gsub(''', "", data)