GoogleAppsを使っている自ドメインのrailsアプリでActionMailerを使い、gmailのsmtpサーバ経由でメール送信することが出来た。

http://douglasfshearer.com/blog/gmail-smtp-with-ruby-on-rails-and-actionmailer

このやり方で出来ました。
このやり方だとruby1.8には無く、ruby1.9に入っているtlsの部分がpluginとしてきちんと切り出されているし、わかりよいと思います。

./script/plugin install http://svn.douglasfshearer.com/rails/plugins/action_mailer_optional_tls
した後に、config/environment.rbに追記するのですが、こんな風に書きました。

送信者を自分のドメインのメールアカウントにする場合


Rails::Initializer.run do |config|
config.action_mailer.smtp_settings = {
:tls => true,
:address => "smtp.gmail.com",
:port => "587",
:domain => "mydomain.com",
:authentication => :plain,
:user_name => "xxx@mydomain.com", <-GoogleAppsで使ってるドメイン
:password => "xxxxx"
}
(以下略

送信者を普段使っているgmaiアカウントにする場合


:user_name => "xxx", <-.gmailアカウントの@より前の部分
:password => "xxxxx"

#実際にはまずgmailアカウントでやって疎通確認できてから、自ドメインでやりました。