するべきだった is formal and literary form of “should have done”.

• 政府はもっと早く手を打つべきだった -> The government should’ve acted a lot earlier
• 政府は対策を待つべきではなかった -> The government shouldn’t have waited to take action
• 彼はすぐ病院に行くべきだった -> He should’ve gone to the hospital immediately
• あなたは本当の事を言うべきだった -> You should’ve told the truth

However in conversations, especially about personal issues, すれば良かった is more commonly used.

• パンをもっと買えば良かった -> I should’ve bought more bread
• もっと勉強をすれば良かった -> I should’ve studied harder
• 彼女に好きだって言えば良かった -> I should’ve told her that I liked her
• 彼女には言わなければ良かった -> I shouldn’t have told her
• 自転車で行くのは止めて置けば良かった -> I shouldn’t have gone on my bicycle

したら良かった is an alternative.

• もっと早く行ったら良かった -> I should’ve gone earlier

終助詞のに will be added when you tell someone or think to yourself, that he/she should’ve done something

• 必要だったならそう言ってくれれば良かったのに -> You should’ve told me if you needed it
• そんな事言わなければ良かったのに -> You shouldn’t have said something like that
• あんなバカは死ねば良かったのに -> An idiot like him should’ve died
• 一度試して見たら良かったのに -> You should’ve given it a shot

The helping verb 置く is frequently added to “should have done” statements. This 置く doesn’t have any significant effects and practically untranslatable in English, but Japanese native speakers usually insert 置く than not.

• 政府はもっと早く手を打って置くべきだった
• 彼はすぐ病院に行って置くべきだった

• パンをもっと買って置けば良かった
• もっと勉強をして置けば良かった
• 彼女に好きだって言って置けば良かった
• 彼女には言わないで置けば良かった

Note 置く can be added along 終助詞のに, only when you say someone should NOT have done something.

• 必要だったならそう言って置いてくれれば良かったのに
• あんなバカは死んで置けば良かったのに
• そんな事言わないで置けば良かったのに -> You should NOT have said something like that
• スカイダイビングなんか止めて置けば良かったのに -> He should NOT have tried skydiving