GoogleAppsを使っている自ドメインのrailsアプリでActionMailerを使い、gmailのsmtpサーバ経由でメール送信することが出来た。
http://douglasfshearer.com/blog/gmail-smtp-with-ruby-on-rails-and-actionmailer
このやり方で出来ました。
このやり方だとruby1.8には無く、ruby1.9に入っているtlsの部分がpluginとしてきちんと切り出されているし、わかりよいと思います。
./script/plugin install http://svn.douglasfshearer.com/rails/plugins/action_mailer_optional_tls
した後に、config/environment.rbに追記するのですが、こんな風に書きました。