[BACK]Return to ncr53c9x.c CVS log [TXT][DIR] Up to [local] / sys / dev / ic

Annotation of sys/dev/ic/ncr53c9x.c, Revision 1.1.1.1

1.1       nbrk        1: /*     $OpenBSD: ncr53c9x.c,v 1.34 2007/08/06 08:28:09 tom Exp $       */
                      2: /*     $NetBSD: ncr53c9x.c,v 1.56 2000/11/30 14:41:46 thorpej Exp $    */
                      3:
                      4: /*
                      5:  * Copyright (c) 1996 Charles M. Hannum.  All rights reserved.
                      6:  *
                      7:  * Redistribution and use in source and binary forms, with or without
                      8:  * modification, are permitted provided that the following conditions
                      9:  * are met:
                     10:  * 1. Redistributions of source code must retain the above copyright
                     11:  *    notice, this list of conditions and the following disclaimer.
                     12:  * 2. Redistributions in binary form must reproduce the above copyright
                     13:  *    notice, this list of conditions and the following disclaimer in the
                     14:  *    documentation and/or other materials provided with the distribution.
                     15:  * 3. All advertising materials mentioning features or use of this software
                     16:  *    must display the following acknowledgement:
                     17:  *     This product includes software developed by Charles M. Hannum.
                     18:  * 4. The name of the author may not be used to endorse or promote products
                     19:  *    derived from this software without specific prior written permission.
                     20:  *
                     21:  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
                     22:  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
                     23:  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
                     24:  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
                     25:  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
                     26:  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
                     27:  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
                     28:  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
                     29:  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
                     30:  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
                     31:  */
                     32:
                     33: /*
                     34:  * Copyright (c) 1994 Peter Galbavy
                     35:  * Copyright (c) 1995 Paul Kranenburg
                     36:  * All rights reserved.
                     37:  *
                     38:  * Redistribution and use in source and binary forms, with or without
                     39:  * modification, are permitted provided that the following conditions
                     40:  * are met:
                     41:  * 1. Redistributions of source code must retain the above copyright
                     42:  *    notice, this list of conditions and the following disclaimer.
                     43:  * 2. Redistributions in binary form must reproduce the above copyright
                     44:  *    notice, this list of conditions and the following disclaimer in the
                     45:  *    documentation and/or other materials provided with the distribution.
                     46:  *
                     47:  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
                     48:  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
                     49:  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
                     50:  * DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT,
                     51:  * INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
                     52:  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR
                     53:  * SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
                     54:  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
                     55:  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN
                     56:  * ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
                     57:  * POSSIBILITY OF SUCH DAMAGE.
                     58:  */
                     59:
                     60: /*
                     61:  * Based on aic6360 by Jarle Greipsland
                     62:  *
                     63:  * Acknowledgements: Many of the algorithms used in this driver are
                     64:  * inspired by the work of Julian Elischer (julian@tfs.com) and
                     65:  * Charles Hannum (mycroft@duality.gnu.ai.mit.edu).  Thanks a million!
                     66:  */
                     67:
                     68: #include <sys/types.h>
                     69: #include <sys/param.h>
                     70: #include <sys/systm.h>
                     71: #include <sys/kernel.h>
                     72: #include <sys/errno.h>
                     73: #include <sys/ioctl.h>
                     74: #include <sys/device.h>
                     75: #include <sys/buf.h>
                     76: #include <sys/malloc.h>
                     77: #include <sys/proc.h>
                     78: #include <sys/user.h>
                     79: #include <sys/queue.h>
                     80: #include <sys/pool.h>
                     81:
                     82: #include <scsi/scsi_all.h>
                     83: #include <scsi/scsiconf.h>
                     84: #include <scsi/scsi_message.h>
                     85:
                     86: #include <machine/cpu.h>
                     87:
                     88: #include <dev/ic/ncr53c9xreg.h>
                     89: #include <dev/ic/ncr53c9xvar.h>
                     90:
                     91: #ifdef NCR53C9X_DEBUG
                     92: int ncr53c9x_debug = 0; /*NCR_SHOWPHASE|NCR_SHOWMISC|NCR_SHOWTRAC|NCR_SHOWCMDS;*/
                     93: #endif
                     94: #ifdef DEBUG
                     95: int ncr53c9x_notag = 0;
                     96: #endif
                     97:
                     98: /*static*/ void        ncr53c9x_readregs(struct ncr53c9x_softc *);
                     99: /*static*/ void        ncr53c9x_select(struct ncr53c9x_softc *,
                    100:                                            struct ncr53c9x_ecb *);
                    101: /*static*/ int ncr53c9x_reselect(struct ncr53c9x_softc *, int, int, int);
                    102: /*static*/ void        ncr53c9x_scsi_reset(struct ncr53c9x_softc *);
                    103: /*static*/ int ncr53c9x_poll(struct ncr53c9x_softc *,
                    104:                                            struct scsi_xfer *, int);
                    105: /*static*/ void        ncr53c9x_sched(struct ncr53c9x_softc *);
                    106: /*static*/ void        ncr53c9x_done(struct ncr53c9x_softc *,
                    107:                                            struct ncr53c9x_ecb *);
                    108: /*static*/ void        ncr53c9x_msgin(struct ncr53c9x_softc *);
                    109: /*static*/ void        ncr53c9x_msgout(struct ncr53c9x_softc *);
                    110: /*static*/ void        ncr53c9x_timeout(void *arg);
                    111: /*static*/ void ncr53c9x_watch(void *arg);
                    112: /*static*/ void        ncr53c9x_abort(struct ncr53c9x_softc *,
                    113:                                            struct ncr53c9x_ecb *);
                    114: /*static*/ void ncr53c9x_dequeue(struct ncr53c9x_softc *,
                    115:                                            struct ncr53c9x_ecb *);
                    116:
                    117: void ncr53c9x_sense(struct ncr53c9x_softc *,
                    118:                                            struct ncr53c9x_ecb *);
                    119: void ncr53c9x_free_ecb(struct ncr53c9x_softc *,
                    120:                                            struct ncr53c9x_ecb *, int);
                    121: struct ncr53c9x_ecb *ncr53c9x_get_ecb(struct ncr53c9x_softc *, int);
                    122:
                    123: static inline int ncr53c9x_stp2cpb(struct ncr53c9x_softc *, int);
                    124: static inline void ncr53c9x_setsync(struct ncr53c9x_softc *,
                    125:                                            struct ncr53c9x_tinfo *);
                    126: static struct ncr53c9x_linfo *ncr53c9x_lunsearch(struct ncr53c9x_tinfo *,
                    127:     int64_t lun);
                    128:
                    129: static void ncr53c9x_wrfifo(struct ncr53c9x_softc *, u_char *, int);
                    130: static int ncr53c9x_rdfifo(struct ncr53c9x_softc *, int);
                    131: #define NCR_RDFIFO_START       0
                    132: #define NCR_RDFIFO_CONTINUE    1
                    133:
                    134: #define NCR_SET_COUNT(sc, size) do {                                           \
                    135:                        NCR_WRITE_REG((sc), NCR_TCL, (size));                   \
                    136:                        NCR_WRITE_REG((sc), NCR_TCM, (size) >> 8);              \
                    137:                        if ((sc->sc_cfg2 & NCRCFG2_FE) ||                       \
                    138:                            (sc->sc_rev == NCR_VARIANT_FAS366)) {               \
                    139:                                NCR_WRITE_REG((sc), NCR_TCH, (size) >> 16);     \
                    140:                        }                                                       \
                    141:                        if (sc->sc_rev == NCR_VARIANT_FAS366) {                 \
                    142:                                NCR_WRITE_REG(sc, NCR_RCH, 0);                  \
                    143:                        }                                                       \
                    144: } while (0)
                    145:
                    146: static int ecb_pool_initialized = 0;
                    147: static struct pool ecb_pool;
                    148:
                    149: struct cfdriver esp_cd = {
                    150:        NULL, "esp", DV_DULL
                    151: };
                    152:
                    153: /*
                    154:  * Names for the NCR53c9x variants, corresponding to the variant tags
                    155:  * in ncr53c9xvar.h.
                    156:  */
                    157: const char *ncr53c9x_variant_names[] = {
                    158:        "ESP100",
                    159:        "ESP100A",
                    160:        "ESP200",
                    161:        "NCR53C94",
                    162:        "NCR53C96",
                    163:        "ESP406",
                    164:        "FAS408",
                    165:        "FAS216",
                    166:        "AM53C974",
                    167:        "FAS366/HME",
                    168: };
                    169:
                    170: /*
                    171:  * Search linked list for LUN info by LUN id.
                    172:  */
                    173: static struct ncr53c9x_linfo *
                    174: ncr53c9x_lunsearch(ti, lun)
                    175:        struct ncr53c9x_tinfo *ti;
                    176:        int64_t lun;
                    177: {
                    178:        struct ncr53c9x_linfo *li;
                    179:        LIST_FOREACH(li, &ti->luns, link)
                    180:            if (li->lun == lun)
                    181:                    return (li);
                    182:        return (NULL);
                    183: }
                    184:
                    185: /*
                    186:  * Attach this instance, and then all the sub-devices
                    187:  */
                    188: void
                    189: ncr53c9x_attach(sc, adapter, dev)
                    190:        struct ncr53c9x_softc *sc;
                    191:        struct scsi_adapter *adapter;
                    192:        struct scsi_device *dev;
                    193: {
                    194:        struct scsibus_attach_args saa;
                    195:
                    196:        timeout_set(&sc->sc_watchdog, ncr53c9x_watch, sc);
                    197:        /*
                    198:         * Allocate SCSI message buffers.
                    199:         * Front-ends can override allocation to avoid alignment
                    200:         * handling in the DMA engines. Note that ncr53c9x_msgout()
                    201:         * can request a 1 byte DMA transfer.
                    202:         */
                    203:        if (sc->sc_omess == NULL)
                    204:                sc->sc_omess = malloc(NCR_MAX_MSG_LEN, M_DEVBUF, M_NOWAIT);
                    205:
                    206:        if (sc->sc_imess == NULL)
                    207:                sc->sc_imess = malloc(NCR_MAX_MSG_LEN+1, M_DEVBUF, M_NOWAIT);
                    208:
                    209:        if (sc->sc_omess == NULL || sc->sc_imess == NULL) {
                    210:                printf("out of memory\n");
                    211:                return;
                    212:        }
                    213:
                    214:        /*
                    215:         * Note, the front-end has set us up to print the chip variation.
                    216:         */
                    217:        if (sc->sc_rev >= NCR_VARIANT_MAX) {
                    218:                printf("\n%s: unknown variant %d, devices not attached\n",
                    219:                    sc->sc_dev.dv_xname, sc->sc_rev);
                    220:                return;
                    221:        }
                    222:
                    223:        printf(": %s, %dMHz, SCSI ID %d\n",
                    224:            ncr53c9x_variant_names[sc->sc_rev], sc->sc_freq, sc->sc_id);
                    225:
                    226:        sc->sc_ccf = FREQTOCCF(sc->sc_freq);
                    227:
                    228:        /* The value *must not* be == 1. Make it 2 */
                    229:        if (sc->sc_ccf == 1)
                    230:                sc->sc_ccf = 2;
                    231:
                    232:        /*
                    233:         * The recommended timeout is 250ms. This register is loaded
                    234:         * with a value calculated as follows, from the docs:
                    235:         *
                    236:         *              (timout period) x (CLK frequency)
                    237:         *      reg = -------------------------------------
                    238:         *               8192 x (Clock Conversion Factor)
                    239:         *
                    240:         * Since CCF has a linear relation to CLK, this generally computes
                    241:         * to the constant of 153.
                    242:         */
                    243:        sc->sc_timeout = ((250 * 1000) * sc->sc_freq) / (8192 * sc->sc_ccf);
                    244:
                    245:        /* CCF register only has 3 bits; 0 is actually 8 */
                    246:        sc->sc_ccf &= 7;
                    247:
                    248:        /* Find how many targets we need to support */
                    249:        switch (sc->sc_rev) {
                    250:        case NCR_VARIANT_FAS366:
                    251:                sc->sc_ntarg = 16;
                    252:                break;
                    253:        default:
                    254:                sc->sc_ntarg = 8;
                    255:                break;
                    256:        }
                    257:
                    258:        /* Reset state & bus */
                    259:        sc->sc_cfflags = sc->sc_dev.dv_cfdata->cf_flags;
                    260:        sc->sc_state = 0;
                    261:        ncr53c9x_init(sc, 1);
                    262:
                    263:        /*
                    264:         * fill in the prototype scsi_link.
                    265:         */
                    266:        sc->sc_link.adapter_softc = sc;
                    267:        sc->sc_link.adapter_target = sc->sc_id;
                    268:        sc->sc_link.adapter = adapter;
                    269:        sc->sc_link.device = dev;
                    270:        sc->sc_link.openings = 2;
                    271:        sc->sc_link.adapter_buswidth = sc->sc_ntarg;
                    272:
                    273:        bzero(&saa, sizeof(saa));
                    274:        saa.saa_sc_link = &sc->sc_link;
                    275:
                    276:        /*
                    277:         * Now try to attach all the sub-devices
                    278:         */
                    279:        config_found(&sc->sc_dev, &saa, scsiprint);
                    280:        timeout_add(&sc->sc_watchdog, 60*hz);
                    281: }
                    282:
                    283: /*
                    284:  * This is the generic ncr53c9x reset function. It does not reset the SCSI bus,
                    285:  * only this controller, but kills any on-going commands, and also stops
                    286:  * and resets the DMA.
                    287:  *
                    288:  * After reset, registers are loaded with the defaults from the attach
                    289:  * routine above.
                    290:  */
                    291: void
                    292: ncr53c9x_reset(sc)
                    293:        struct ncr53c9x_softc *sc;
                    294: {
                    295:
                    296:        /* reset DMA first */
                    297:        NCRDMA_RESET(sc);
                    298:
                    299:        /* reset SCSI chip */
                    300:        NCRCMD(sc, NCRCMD_RSTCHIP);
                    301:        NCRCMD(sc, NCRCMD_NOP);
                    302:        DELAY(500);
                    303:
                    304:        /* do these backwards, and fall through */
                    305:        switch (sc->sc_rev) {
                    306:        case NCR_VARIANT_ESP406:
                    307:        case NCR_VARIANT_FAS408:
                    308:                NCR_WRITE_REG(sc, NCR_CFG5, sc->sc_cfg5 | NCRCFG5_SINT);
                    309:                NCR_WRITE_REG(sc, NCR_CFG4, sc->sc_cfg4);
                    310:        case NCR_VARIANT_AM53C974:
                    311:        case NCR_VARIANT_FAS216:
                    312:        case NCR_VARIANT_NCR53C94:
                    313:        case NCR_VARIANT_NCR53C96:
                    314:        case NCR_VARIANT_ESP200:
                    315:                sc->sc_features |= NCR_F_HASCFG3;
                    316:                NCR_WRITE_REG(sc, NCR_CFG3, sc->sc_cfg3);
                    317:        case NCR_VARIANT_ESP100A:
                    318:                sc->sc_features |= NCR_F_SELATN3;
                    319:                NCR_WRITE_REG(sc, NCR_CFG2, sc->sc_cfg2);
                    320:        case NCR_VARIANT_ESP100:
                    321:                NCR_WRITE_REG(sc, NCR_CFG1, sc->sc_cfg1);
                    322:                NCR_WRITE_REG(sc, NCR_CCF, sc->sc_ccf);
                    323:                NCR_WRITE_REG(sc, NCR_SYNCOFF, 0);
                    324:                NCR_WRITE_REG(sc, NCR_TIMEOUT, sc->sc_timeout);
                    325:                break;
                    326:        case NCR_VARIANT_FAS366:
                    327:                sc->sc_features |=
                    328:                    NCR_F_SELATN3 | NCR_F_HASCFG3 | NCR_F_FASTSCSI;
                    329:                sc->sc_cfg3 = NCRFASCFG3_FASTCLK | NCRFASCFG3_OBAUTO;
                    330:                sc->sc_cfg3_fscsi = NCRFASCFG3_FASTSCSI;
                    331:                NCR_WRITE_REG(sc, NCR_CFG3, sc->sc_cfg3);
                    332:                sc->sc_cfg2 = 0; /* NCRCFG2_HMEFE | NCRCFG2_HME32 */
                    333:                NCR_WRITE_REG(sc, NCR_CFG2, sc->sc_cfg2);
                    334:                NCR_WRITE_REG(sc, NCR_CFG1, sc->sc_cfg1);
                    335:                NCR_WRITE_REG(sc, NCR_CCF, sc->sc_ccf);
                    336:                NCR_WRITE_REG(sc, NCR_SYNCOFF, 0);
                    337:                NCR_WRITE_REG(sc, NCR_TIMEOUT, sc->sc_timeout);
                    338:                break;
                    339:        default:
                    340:                printf("%s: unknown revision code, assuming ESP100\n",
                    341:                    sc->sc_dev.dv_xname);
                    342:                NCR_WRITE_REG(sc, NCR_CFG1, sc->sc_cfg1);
                    343:                NCR_WRITE_REG(sc, NCR_CCF, sc->sc_ccf);
                    344:                NCR_WRITE_REG(sc, NCR_SYNCOFF, 0);
                    345:                NCR_WRITE_REG(sc, NCR_TIMEOUT, sc->sc_timeout);
                    346:        }
                    347:
                    348:        if (sc->sc_rev == NCR_VARIANT_AM53C974)
                    349:                NCR_WRITE_REG(sc, NCR_AMDCFG4, sc->sc_cfg4);
                    350:
                    351: #if 0
                    352:        printf("%s: ncr53c9x_reset: revision %d\n",
                    353:            sc->sc_dev.dv_xname, sc->sc_rev);
                    354:        printf("%s: ncr53c9x_reset: cfg1 0x%x, cfg2 0x%x, cfg3 0x%x, ccf 0x%x, timeout 0x%x\n",
                    355:            sc->sc_dev.dv_xname,
                    356:            sc->sc_cfg1, sc->sc_cfg2, sc->sc_cfg3,
                    357:            sc->sc_ccf, sc->sc_timeout);
                    358: #endif
                    359: }
                    360:
                    361: /*
                    362:  * Reset the SCSI bus, but not the chip
                    363:  */
                    364: void
                    365: ncr53c9x_scsi_reset(sc)
                    366:        struct ncr53c9x_softc *sc;
                    367: {
                    368:
                    369:        (*sc->sc_glue->gl_dma_stop)(sc);
                    370:
                    371:        printf("%s: resetting SCSI bus\n", sc->sc_dev.dv_xname);
                    372:        NCRCMD(sc, NCRCMD_RSTSCSI);
                    373: }
                    374:
                    375: /*
                    376:  * Initialize ncr53c9x state machine
                    377:  */
                    378: void
                    379: ncr53c9x_init(sc, doreset)
                    380:        struct ncr53c9x_softc *sc;
                    381:        int doreset;
                    382: {
                    383:        struct ncr53c9x_ecb *ecb;
                    384:        struct ncr53c9x_linfo *li;
                    385:        int r, i;
                    386:
                    387:        NCR_TRACE(("[NCR_INIT(%d) %d] ", doreset, sc->sc_state));
                    388:
                    389:        if (!ecb_pool_initialized) {
                    390:                /* All instances share this pool */
                    391:                pool_init(&ecb_pool, sizeof(struct ncr53c9x_ecb), 0, 0, 0,
                    392:                    "ncr53c9x_ecb", NULL);
                    393:                ecb_pool_initialized = 1;
                    394:        }
                    395:
                    396:        if (sc->sc_state == 0) {
                    397:                /* First time through; initialize. */
                    398:
                    399:                TAILQ_INIT(&sc->ready_list);
                    400:                sc->sc_nexus = NULL;
                    401:                bzero(sc->sc_tinfo, sizeof(sc->sc_tinfo));
                    402:                for (r = 0; r < sc->sc_ntarg; r++) {
                    403:                        LIST_INIT(&sc->sc_tinfo[r].luns);
                    404:                }
                    405:        } else {
                    406:                /* Cancel any active commands. */
                    407:                sc->sc_state = NCR_CLEANING;
                    408:                sc->sc_msgify = 0;
                    409:                if ((ecb = sc->sc_nexus) != NULL) {
                    410:                        ecb->xs->error = XS_TIMEOUT;
                    411:                        ncr53c9x_done(sc, ecb);
                    412:                }
                    413:                for (r = 0; r < sc->sc_ntarg; r++) {
                    414:                        LIST_FOREACH(li, &sc->sc_tinfo[r].luns, link) {
                    415:                                if ((ecb = li->untagged)) {
                    416:                                        li->untagged = NULL;
                    417:                                        /*
                    418:                                         * XXXXXXX
                    419:                                         * Should we terminate a command
                    420:                                         * that never reached the disk?
                    421:                                         */
                    422:                                        li->busy = 0;
                    423:                                        ecb->xs->error = XS_TIMEOUT;
                    424:                                        ncr53c9x_done(sc, ecb);
                    425:                                }
                    426:                                for (i = 0; i < 256; i++)
                    427:                                        if ((ecb = li->queued[i])) {
                    428:                                                li->queued[i] = NULL;
                    429:                                                ecb->xs->error = XS_TIMEOUT;
                    430:                                                ncr53c9x_done(sc, ecb);
                    431:                                        }
                    432:                                li->used = 0;
                    433:                        }
                    434:                }
                    435:        }
                    436:
                    437:        /*
                    438:         * reset the chip to a known state
                    439:         */
                    440:        ncr53c9x_reset(sc);
                    441:
                    442:        sc->sc_phase = sc->sc_prevphase = INVALID_PHASE;
                    443:        for (r = 0; r < sc->sc_ntarg; r++) {
                    444:                struct ncr53c9x_tinfo *ti = &sc->sc_tinfo[r];
                    445: /* XXX - config flags per target: low bits: no reselect; high bits: no synch */
                    446:
                    447:                 ti->flags = ((!(sc->sc_cfflags & (1 << (r + 16))) &&
                    448:                    sc->sc_minsync) ? 0 : T_SYNCHOFF) |
                    449:                    ((sc->sc_cfflags & (1 << r)) ?  T_RSELECTOFF : 0) |
                    450:                    T_NEED_TO_RESET;
                    451: #ifdef DEBUG
                    452:                 if (ncr53c9x_notag)
                    453:                         ti->flags &= ~T_TAG;
                    454: #endif
                    455:                ti->period = sc->sc_minsync;
                    456:                ti->offset = 0;
                    457:                ti->cfg3 = 0;
                    458:        }
                    459:
                    460:        if (doreset) {
                    461:                sc->sc_state = NCR_SBR;
                    462:                NCRCMD(sc, NCRCMD_RSTSCSI);
                    463:                /*
                    464:                 * XXX gross...
                    465:                 * On some systems, commands issued too close to a reset
                    466:                 * do not work correctly. We'll force a short delay on
                    467:                 * known-to-be-sensitive chips.
                    468:                 */
                    469:                switch (sc->sc_rev) {
                    470:                case NCR_VARIANT_NCR53C94:
                    471:                        DELAY(600000);  /* 600ms */
                    472:                        break;
                    473:                case NCR_VARIANT_NCR53C96:
                    474:                        DELAY(100000);  /* 100ms */
                    475:                        break;
                    476:                }
                    477:        } else {
                    478:                sc->sc_state = NCR_IDLE;
                    479:                ncr53c9x_sched(sc);
                    480:        }
                    481: }
                    482:
                    483: /*
                    484:  * Read the NCR registers, and save their contents for later use.
                    485:  * NCR_STAT, NCR_STEP & NCR_INTR are mostly zeroed out when reading
                    486:  * NCR_INTR - so make sure it is the last read.
                    487:  *
                    488:  * I think that (from reading the docs) most bits in these registers
                    489:  * only make sense when he DMA CSR has an interrupt showing. Call only
                    490:  * if an interrupt is pending.
                    491:  */
                    492: __inline__ void
                    493: ncr53c9x_readregs(sc)
                    494:        struct ncr53c9x_softc *sc;
                    495: {
                    496:
                    497:        sc->sc_espstat = NCR_READ_REG(sc, NCR_STAT);
                    498:        /* Only the stepo bits are of interest */
                    499:        sc->sc_espstep = NCR_READ_REG(sc, NCR_STEP) & NCRSTEP_MASK;
                    500:
                    501:        if (sc->sc_rev == NCR_VARIANT_FAS366)
                    502:                sc->sc_espstat2 = NCR_READ_REG(sc, NCR_STAT2);
                    503:
                    504:        sc->sc_espintr = NCR_READ_REG(sc, NCR_INTR);
                    505:
                    506:        if (sc->sc_glue->gl_clear_latched_intr != NULL)
                    507:                (*sc->sc_glue->gl_clear_latched_intr)(sc);
                    508:
                    509:        /*
                    510:         * Determine the SCSI bus phase, return either a real SCSI bus phase
                    511:         * or some pseudo phase we use to detect certain exceptions.
                    512:         */
                    513:
                    514:        sc->sc_phase = (sc->sc_espintr & NCRINTR_DIS)
                    515:                        ? /* Disconnected */ BUSFREE_PHASE
                    516:                        : sc->sc_espstat & NCRSTAT_PHASE;
                    517:
                    518:        NCR_MISC(("regs[intr=%02x,stat=%02x,step=%02x,stat2=%02x] ",
                    519:                sc->sc_espintr, sc->sc_espstat, sc->sc_espstep, sc->sc_espstat2));
                    520: }
                    521:
                    522: /*
                    523:  * Convert Synchronous Transfer Period to chip register Clock Per Byte value.
                    524:  */
                    525: static inline int
                    526: ncr53c9x_stp2cpb(sc, period)
                    527:        struct ncr53c9x_softc *sc;
                    528:        int period;
                    529: {
                    530:        int v;
                    531:        v = (sc->sc_freq * period) / 250;
                    532:        if (ncr53c9x_cpb2stp(sc, v) < period)
                    533:                /* Correct round-down error */
                    534:                v++;
                    535:        return (v);
                    536: }
                    537:
                    538: static inline void
                    539: ncr53c9x_setsync(sc, ti)
                    540:        struct ncr53c9x_softc *sc;
                    541:        struct ncr53c9x_tinfo *ti;
                    542: {
                    543:        u_char syncoff, synctp;
                    544:        u_char cfg3 = sc->sc_cfg3 | ti->cfg3;
                    545:
                    546:        if (ti->flags & T_SYNCMODE) {
                    547:                syncoff = ti->offset;
                    548:                synctp = ncr53c9x_stp2cpb(sc, ti->period);
                    549:                if (sc->sc_features & NCR_F_FASTSCSI) {
                    550:                        /*
                    551:                         * If the period is 200ns or less (ti->period <= 50),
                    552:                         * put the chip in Fast SCSI mode.
                    553:                         */
                    554:                        if (ti->period <= 50)
                    555:                                /*
                    556:                                 * There are (at least) 4 variations of the
                    557:                                 * configuration 3 register.  The drive attach
                    558:                                 * routine sets the appropriate bit to put the
                    559:                                 * chip into Fast SCSI mode so that it doesn't
                    560:                                 * have to be figured out here each time.
                    561:                                 */
                    562:                                cfg3 |= (sc->sc_rev == NCR_VARIANT_AM53C974) ?
                    563:                                    NCRAMDCFG3_FSCSI : NCRCFG3_FSCSI;
                    564:                }
                    565:
                    566:                /*
                    567:                 * Am53c974 requires different SYNCTP values when the
                    568:                 * FSCSI bit is off.
                    569:                 */
                    570:                if (sc->sc_rev == NCR_VARIANT_AM53C974 &&
                    571:                    (cfg3 & NCRAMDCFG3_FSCSI) == 0)
                    572:                        synctp--;
                    573:        } else {
                    574:                syncoff = 0;
                    575:                synctp = 0;
                    576:        }
                    577:
                    578:        if (sc->sc_features & NCR_F_HASCFG3)
                    579:                NCR_WRITE_REG(sc, NCR_CFG3, cfg3);
                    580:
                    581:        NCR_WRITE_REG(sc, NCR_SYNCOFF, syncoff);
                    582:        NCR_WRITE_REG(sc, NCR_SYNCTP, synctp);
                    583: }
                    584:
                    585: /*
                    586:  * Send a command to a target, set the driver state to NCR_SELECTING
                    587:  * and let the caller take care of the rest.
                    588:  *
                    589:  * Keeping this as a function allows me to say that this may be done
                    590:  * by DMA instead of programmed I/O soon.
                    591:  */
                    592: void
                    593: ncr53c9x_select(sc, ecb)
                    594:        struct ncr53c9x_softc *sc;
                    595:        struct ncr53c9x_ecb *ecb;
                    596: {
                    597:        struct scsi_link *sc_link = ecb->xs->sc_link;
                    598:        int target = sc_link->target;
                    599:        int lun = sc_link->lun;
                    600:        struct ncr53c9x_tinfo *ti = &sc->sc_tinfo[target];
                    601:        int tiflags = ti->flags;
                    602:        u_char *cmd;
                    603:        int clen;
                    604:        int selatn3, selatns;
                    605:        size_t dmasize;
                    606:
                    607:        NCR_TRACE(("[ncr53c9x_select(t%d,l%d,cmd:%x,tag%x,%x)] ",
                    608:                   target, lun, ecb->cmd.cmd.opcode, ecb->tag[0], ecb->tag[1]));
                    609:
                    610:        sc->sc_state = NCR_SELECTING;
                    611:        /*
                    612:         * Schedule the timeout now, the first time we will go away
                    613:         * expecting to come back due to an interrupt, because it is
                    614:         * always possible that the interrupt may never happen.
                    615:         */
                    616:        if ((ecb->xs->flags & SCSI_POLL) == 0) {
                    617:                int timeout = ecb->timeout;
                    618:
                    619:                if (timeout > 1000000)
                    620:                        timeout = (timeout / 1000) * hz;
                    621:                else
                    622:                        timeout = (timeout * hz) / 1000;
                    623:                timeout_add(&ecb->to, timeout);
                    624:        }
                    625:
                    626:        /*
                    627:         * The docs say the target register is never reset, and I
                    628:         * can't think of a better place to set it
                    629:         */
                    630:        if (sc->sc_rev == NCR_VARIANT_FAS366) {
                    631:                NCRCMD(sc, NCRCMD_FLUSH);
                    632:                NCR_WRITE_REG(sc, NCR_SELID, target | NCR_BUSID_HME);
                    633:        } else {
                    634:                NCR_WRITE_REG(sc, NCR_SELID, target);
                    635:        }
                    636:        ncr53c9x_setsync(sc, ti);
                    637:
                    638:        if ((ecb->flags & ECB_SENSE) != 0) {
                    639:                /*
                    640:                 * For REQUEST SENSE, we should not send an IDENTIFY or
                    641:                 * otherwise mangle the target.  There should be no MESSAGE IN
                    642:                 * phase.
                    643:                 */
                    644:                if (sc->sc_features & NCR_F_DMASELECT) {
                    645:                        /* setup DMA transfer for command */
                    646:                        dmasize = clen = ecb->clen;
                    647:                        sc->sc_cmdlen = clen;
                    648:                        sc->sc_cmdp = (caddr_t)&ecb->cmd.cmd;
                    649:
                    650:                        NCRDMA_SETUP(sc, &sc->sc_cmdp, &sc->sc_cmdlen, 0,
                    651:                            &dmasize);
                    652:                        /* Program the SCSI counter */
                    653:                        NCR_SET_COUNT(sc, dmasize);
                    654:
                    655:                        if (sc->sc_rev != NCR_VARIANT_FAS366)
                    656:                                NCRCMD(sc, NCRCMD_NOP|NCRCMD_DMA);
                    657:
                    658:                        /* And get the targets attention */
                    659:                        NCRCMD(sc, NCRCMD_SELNATN | NCRCMD_DMA);
                    660:                        NCRDMA_GO(sc);
                    661:                } else {
                    662:                        ncr53c9x_wrfifo(sc, (u_char *)&ecb->cmd.cmd, ecb->clen);
                    663:                        NCRCMD(sc, NCRCMD_SELNATN);
                    664:                }
                    665:                return;
                    666:        }
                    667:
                    668:        selatn3 = selatns = 0;
                    669:        if (ecb->tag[0] != 0) {
                    670:                if (sc->sc_features & NCR_F_SELATN3)
                    671:                        /* use SELATN3 to send tag messages */
                    672:                        selatn3 = 1;
                    673:                else
                    674:                        /* We don't have SELATN3; use SELATNS to send tags */
                    675:                        selatns = 1;
                    676:        }
                    677:
                    678:        if (ti->flags & T_NEGOTIATE) {
                    679:                /* We have to use SELATNS to send sync/wide messages */
                    680:                selatn3 = 0;
                    681:                selatns = 1;
                    682:        }
                    683:
                    684:        cmd = (u_char *)&ecb->cmd.cmd;
                    685:
                    686:        if (selatn3) {
                    687:                /* We'll use tags with SELATN3 */
                    688:                clen = ecb->clen + 3;
                    689:                cmd -= 3;
                    690:                cmd[0] = MSG_IDENTIFY(lun, 1);  /* msg[0] */
                    691:                cmd[1] = ecb->tag[0];           /* msg[1] */
                    692:                cmd[2] = ecb->tag[1];           /* msg[2] */
                    693:        } else {
                    694:                /* We don't have tags, or will send messages with SELATNS */
                    695:                clen = ecb->clen + 1;
                    696:                cmd -= 1;
                    697:                cmd[0] = MSG_IDENTIFY(lun, (tiflags & T_RSELECTOFF) == 0);
                    698:        }
                    699:
                    700:        if ((sc->sc_features & NCR_F_DMASELECT) && !selatns) {
                    701:
                    702:                /* setup DMA transfer for command */
                    703:                dmasize = clen;
                    704:                sc->sc_cmdlen = clen;
                    705:                sc->sc_cmdp = cmd;
                    706:
                    707:                NCRDMA_SETUP(sc, &sc->sc_cmdp, &sc->sc_cmdlen, 0, &dmasize);
                    708:                /* Program the SCSI counter */
                    709:                NCR_SET_COUNT(sc, dmasize);
                    710:
                    711:                /* load the count in */
                    712:                /* if (sc->sc_rev != NCR_VARIANT_FAS366) */
                    713:                        NCRCMD(sc, NCRCMD_NOP|NCRCMD_DMA);
                    714:
                    715:                /* And get the targets attention */
                    716:                if (selatn3) {
                    717:                        sc->sc_msgout = SEND_TAG;
                    718:                        sc->sc_flags |= NCR_ATN;
                    719:                        NCRCMD(sc, NCRCMD_SELATN3 | NCRCMD_DMA);
                    720:                } else
                    721:                        NCRCMD(sc, NCRCMD_SELATN | NCRCMD_DMA);
                    722:                NCRDMA_GO(sc);
                    723:                return;
                    724:        }
                    725:
                    726:        /*
                    727:         * Who am I. This is where we tell the target that we are
                    728:         * happy for it to disconnect etc.
                    729:         */
                    730:
                    731:        /* Now get the command into the FIFO */
                    732:        ncr53c9x_wrfifo(sc, cmd, clen);
                    733:
                    734:        /* And get the targets attention */
                    735:        if (selatns) {
                    736:                NCR_MISC(("SELATNS \n"));
                    737:                /* Arbitrate, select and stop after IDENTIFY message */
                    738:                NCRCMD(sc, NCRCMD_SELATNS);
                    739:        } else if (selatn3) {
                    740:                sc->sc_msgout = SEND_TAG;
                    741:                sc->sc_flags |= NCR_ATN;
                    742:                NCRCMD(sc, NCRCMD_SELATN3);
                    743:        } else
                    744:                NCRCMD(sc, NCRCMD_SELATN);
                    745: }
                    746:
                    747: void
                    748: ncr53c9x_free_ecb(sc, ecb, flags)
                    749:        struct ncr53c9x_softc *sc;
                    750:        struct ncr53c9x_ecb *ecb;
                    751:        int flags;
                    752: {
                    753:        int s;
                    754:
                    755:        s = splbio();
                    756:        ecb->flags = 0;
                    757:        pool_put(&ecb_pool, (void *)ecb);
                    758:        splx(s);
                    759: }
                    760:
                    761: struct ncr53c9x_ecb *
                    762: ncr53c9x_get_ecb(sc, flags)
                    763:        struct ncr53c9x_softc *sc;
                    764:        int flags;
                    765: {
                    766:        struct ncr53c9x_ecb *ecb;
                    767:        int s, wait = 0;
                    768:
                    769:        if ((curproc != NULL) && ((flags & SCSI_NOSLEEP) == 0))
                    770:                wait = PR_WAITOK;
                    771:
                    772:        s = splbio();
                    773:        ecb = (struct ncr53c9x_ecb *)pool_get(&ecb_pool, wait);
                    774:        splx(s);
                    775:        if (ecb == NULL)
                    776:                return (NULL);
                    777:        bzero(ecb, sizeof(*ecb));
                    778:        timeout_set(&ecb->to, ncr53c9x_timeout, ecb);
                    779:        ecb->flags |= ECB_ALLOC;
                    780:        return (ecb);
                    781: }
                    782:
                    783: /*
                    784:  * DRIVER FUNCTIONS CALLABLE FROM HIGHER LEVEL DRIVERS
                    785:  */
                    786:
                    787: /*
                    788:  * Start a SCSI-command
                    789:  * This function is called by the higher level SCSI-driver to queue/run
                    790:  * SCSI-commands.
                    791:  */
                    792: int
                    793: ncr53c9x_scsi_cmd(xs)
                    794:        struct scsi_xfer *xs;
                    795: {
                    796:        struct scsi_link *sc_link = xs->sc_link;
                    797:        struct ncr53c9x_softc *sc = sc_link->adapter_softc;
                    798:        struct ncr53c9x_ecb *ecb;
                    799:        struct ncr53c9x_tinfo *ti;
                    800:        struct ncr53c9x_linfo *li;
                    801:        int64_t lun = sc_link->lun;
                    802:        int s, flags;
                    803:
                    804:        NCR_TRACE(("[ncr53c9x_scsi_cmd] "));
                    805:        NCR_CMDS(("[0x%x, %d]->%d ", (int)xs->cmd->opcode, xs->cmdlen,
                    806:            sc_link->target));
                    807:
                    808:        flags = xs->flags;
                    809:        ti = &sc->sc_tinfo[sc_link->target];
                    810:        li = TINFO_LUN(ti, lun);
                    811:        if (li == NULL) {
                    812:                /* Initialize LUN info and add to list. */
                    813:                if ((li = malloc(sizeof(*li), M_DEVBUF, M_NOWAIT)) == NULL) {
                    814:                        return (TRY_AGAIN_LATER);
                    815:                }
                    816:                bzero(li, sizeof(*li));
                    817:                li->last_used = time_second;
                    818:                li->lun = lun;
                    819:                s = splbio();
                    820:                LIST_INSERT_HEAD(&ti->luns, li, link);
                    821:                if (lun < NCR_NLUN)
                    822:                        ti->lun[lun] = li;
                    823:                splx(s);
                    824:        }
                    825:
                    826:        if ((ecb = ncr53c9x_get_ecb(sc, flags)) == NULL)
                    827:                return (TRY_AGAIN_LATER);
                    828:
                    829:        /* Initialize ecb */
                    830:        ecb->xs = xs;
                    831:        ecb->timeout = xs->timeout;
                    832:
                    833:        if (flags & SCSI_RESET) {
                    834:                ecb->flags |= ECB_RESET;
                    835:                ecb->clen = 0;
                    836:                ecb->dleft = 0;
                    837:        } else {
                    838:                bcopy(xs->cmd, &ecb->cmd.cmd, xs->cmdlen);
                    839:                ecb->clen = xs->cmdlen;
                    840:                ecb->daddr = xs->data;
                    841:                ecb->dleft = xs->datalen;
                    842:        }
                    843:        ecb->stat = 0;
                    844:
                    845:        s = splbio();
                    846:
                    847:        TAILQ_INSERT_TAIL(&sc->ready_list, ecb, chain);
                    848:        ecb->flags |= ECB_READY;
                    849:        if (sc->sc_state == NCR_IDLE)
                    850:                ncr53c9x_sched(sc);
                    851:
                    852:        splx(s);
                    853:
                    854:        if ((flags & SCSI_POLL) == 0)
                    855:                return (SUCCESSFULLY_QUEUED);
                    856:
                    857:        /* Not allowed to use interrupts, use polling instead */
                    858:        if (ncr53c9x_poll(sc, xs, ecb->timeout)) {
                    859:                ncr53c9x_timeout(ecb);
                    860:                if (ncr53c9x_poll(sc, xs, ecb->timeout))
                    861:                        ncr53c9x_timeout(ecb);
                    862:        }
                    863:        return (COMPLETE);
                    864: }
                    865:
                    866: /*
                    867:  * Used when interrupt driven I/O isn't allowed, e.g. during boot.
                    868:  */
                    869: int
                    870: ncr53c9x_poll(sc, xs, count)
                    871:        struct ncr53c9x_softc *sc;
                    872:        struct scsi_xfer *xs;
                    873:        int count;
                    874: {
                    875:
                    876:        NCR_TRACE(("[ncr53c9x_poll] "));
                    877:        while (count) {
                    878:                if (NCRDMA_ISINTR(sc)) {
                    879:                        ncr53c9x_intr(sc);
                    880:                }
                    881: #if alternatively
                    882:                if (NCR_READ_REG(sc, NCR_STAT) & NCRSTAT_INT)
                    883:                        ncr53c9x_intr(sc);
                    884: #endif
                    885:                if ((xs->flags & ITSDONE) != 0)
                    886:                        return (0);
                    887:                if (sc->sc_state == NCR_IDLE) {
                    888:                        NCR_TRACE(("[ncr53c9x_poll: rescheduling] "));
                    889:                        ncr53c9x_sched(sc);
                    890:                }
                    891:                DELAY(1000);
                    892:                count--;
                    893:        }
                    894:        return (1);
                    895: }
                    896:
                    897:
                    898: /*
                    899:  * LOW LEVEL SCSI UTILITIES
                    900:  */
                    901:
                    902: /*
                    903:  * Schedule a scsi operation.  This has now been pulled out of the interrupt
                    904:  * handler so that we may call it from ncr53c9x_scsi_cmd and ncr53c9x_done.
                    905:  * This may save us an unnecessary interrupt just to get things going.
                    906:  * Should only be called when state == NCR_IDLE and at bio pl.
                    907:  */
                    908: void
                    909: ncr53c9x_sched(sc)
                    910:        struct ncr53c9x_softc *sc;
                    911: {
                    912:        struct ncr53c9x_ecb *ecb;
                    913:        struct scsi_link *sc_link;
                    914:        struct ncr53c9x_tinfo *ti;
                    915:        int lun;
                    916:        struct ncr53c9x_linfo *li;
                    917:        int s, tag;
                    918:
                    919:        NCR_TRACE(("[ncr53c9x_sched] "));
                    920:        if (sc->sc_state != NCR_IDLE)
                    921:                panic("ncr53c9x_sched: not IDLE (state=%d)", sc->sc_state);
                    922:
                    923:        /*
                    924:         * Find first ecb in ready queue that is for a target/lunit
                    925:         * combinations that is not busy.
                    926:         */
                    927:        TAILQ_FOREACH(ecb, &sc->ready_list, chain) {
                    928:                sc_link = ecb->xs->sc_link;
                    929:                ti = &sc->sc_tinfo[sc_link->target];
                    930:                lun = sc_link->lun;
                    931:
                    932:                /* Select type of tag for this command */
                    933:                if ((ti->flags & (T_RSELECTOFF)) != 0)
                    934:                        tag = 0;
                    935:                else if ((ti->flags & T_TAG) == 0)
                    936:                        tag = 0;
                    937:                else if ((ecb->flags & ECB_SENSE) != 0)
                    938:                        tag = 0;
                    939:                else if (ecb->xs->flags & SCSI_URGENT)
                    940:                        tag = MSG_HEAD_OF_Q_TAG;
                    941:                else
                    942:                        tag = MSG_SIMPLE_Q_TAG;
                    943: #if 0
                    944:                /* XXXX Use tags for polled commands? */
                    945:                if (ecb->xs->flags & SCSI_POLL)
                    946:                        tag = 0;
                    947: #endif
                    948:                s = splbio();
                    949:                li = TINFO_LUN(ti, lun);
                    950:                if (!li) {
                    951:                        /* Initialize LUN info and add to list. */
                    952:                        if ((li = malloc(sizeof(*li), M_DEVBUF, M_NOWAIT)) == NULL) {
                    953:                                splx(s);
                    954:                                continue;
                    955:                        }
                    956:                        bzero(li, sizeof(*li));
                    957:                        li->lun = lun;
                    958:
                    959:                        LIST_INSERT_HEAD(&ti->luns, li, link);
                    960:                        if (lun < NCR_NLUN)
                    961:                                ti->lun[lun] = li;
                    962:                }
                    963:                li->last_used = time_second;
                    964:                if (!tag) {
                    965:                        /* Try to issue this as an un-tagged command */
                    966:                        if (!li->untagged)
                    967:                                li->untagged = ecb;
                    968:                }
                    969:                if (li->untagged) {
                    970:                        tag = 0;
                    971:                        if ((li->busy != 1) && !li->used) {
                    972:                                /* We need to issue this untagged command now */
                    973:                                ecb = li->untagged;
                    974:                                sc_link = ecb->xs->sc_link;
                    975:                        }
                    976:                        else {
                    977:                                /* Not ready yet */
                    978:                                splx(s);
                    979:                                continue;
                    980:                        }
                    981:                }
                    982:                ecb->tag[0] = tag;
                    983:                if (tag) {
                    984:                        int i;
                    985:
                    986:                        /* Allocate a tag */
                    987:                        if (li->used == 255) {
                    988:                                /* no free tags */
                    989:                                splx(s);
                    990:                                continue;
                    991:                        }
                    992:                        /* Start from the last used location */
                    993:                        for (i=li->avail; i<256; i++) {
                    994:                                if (li->queued[i] == NULL)
                    995:                                        break;
                    996:                        }
                    997:                        /* Couldn't find one, start again from the beginning */
                    998:                        if (i == 256) {
                    999:                                for (i = 0; i<256; i++) {
                   1000:                                        if (li->queued[i] == NULL)
                   1001:                                                break;
                   1002:                                }
                   1003:                        }
                   1004: #ifdef DIAGNOSTIC
                   1005:                        if (i == 256)
                   1006:                                panic("ncr53c9x_sched: tag alloc failure");
                   1007: #endif
                   1008:
                   1009:                        /* Save where to start next time. */
                   1010:                        li->avail = i+1;
                   1011:                        li->used++;
                   1012:
                   1013:                        li->queued[i] = ecb;
                   1014:                        ecb->tag[1] = i;
                   1015:                }
                   1016:                splx(s);
                   1017:                if (li->untagged && (li->busy != 1)) {
                   1018:                        li->busy = 1;
                   1019:                        TAILQ_REMOVE(&sc->ready_list, ecb, chain);
                   1020:                        ecb->flags &= ~ECB_READY;
                   1021:                        sc->sc_nexus = ecb;
                   1022:                        ncr53c9x_select(sc, ecb);
                   1023:                        break;
                   1024:                }
                   1025:                if (!li->untagged && tag) {
                   1026:                        TAILQ_REMOVE(&sc->ready_list, ecb, chain);
                   1027:                        ecb->flags &= ~ECB_READY;
                   1028:                        sc->sc_nexus = ecb;
                   1029:                        ncr53c9x_select(sc, ecb);
                   1030:                        break;
                   1031:                } else
                   1032:                        NCR_MISC(("%d:%d busy\n",
                   1033:                                  sc_link->target,
                   1034:                                  sc_link->lun));
                   1035:        }
                   1036: }
                   1037:
                   1038: void
                   1039: ncr53c9x_sense(sc, ecb)
                   1040:        struct ncr53c9x_softc *sc;
                   1041:        struct ncr53c9x_ecb *ecb;
                   1042: {
                   1043:        struct scsi_xfer *xs = ecb->xs;
                   1044:        struct scsi_link *sc_link = xs->sc_link;
                   1045:        struct ncr53c9x_tinfo *ti = &sc->sc_tinfo[sc_link->target];
                   1046:        struct scsi_sense *ss = (void *)&ecb->cmd.cmd;
                   1047:        struct ncr53c9x_linfo *li;
                   1048:        int lun = sc_link->lun;
                   1049:
                   1050:        NCR_MISC(("requesting sense "));
                   1051:        /* Next, setup a request sense command block */
                   1052:        bzero(ss, sizeof(*ss));
                   1053:        ss->opcode = REQUEST_SENSE;
                   1054:        ss->byte2 = sc_link->lun << 5;
                   1055:        ss->length = sizeof(struct scsi_sense_data);
                   1056:        ecb->clen = sizeof(*ss);
                   1057:        ecb->daddr = (char *)&xs->sense;
                   1058:        ecb->dleft = sizeof(struct scsi_sense_data);
                   1059:        ecb->flags |= ECB_SENSE;
                   1060:        ecb->timeout = NCR_SENSE_TIMEOUT;
                   1061:        ti->senses++;
                   1062:        li = TINFO_LUN(ti, lun);
                   1063:        if (li->busy) li->busy = 0;
                   1064:        ncr53c9x_dequeue(sc, ecb);
                   1065:        li->untagged = ecb;
                   1066:        li->busy = 2;
                   1067:        if (ecb == sc->sc_nexus) {
                   1068:                ncr53c9x_select(sc, ecb);
                   1069:        } else {
                   1070:                TAILQ_INSERT_HEAD(&sc->ready_list, ecb, chain);
                   1071:                ecb->flags |= ECB_READY;
                   1072:                if (sc->sc_state == NCR_IDLE)
                   1073:                        ncr53c9x_sched(sc);
                   1074:        }
                   1075: }
                   1076:
                   1077: /*
                   1078:  * POST PROCESSING OF SCSI_CMD (usually current)
                   1079:  */
                   1080: void
                   1081: ncr53c9x_done(sc, ecb)
                   1082:        struct ncr53c9x_softc *sc;
                   1083:        struct ncr53c9x_ecb *ecb;
                   1084: {
                   1085:        struct scsi_xfer *xs = ecb->xs;
                   1086:        struct scsi_link *sc_link = xs->sc_link;
                   1087:        struct ncr53c9x_tinfo *ti = &sc->sc_tinfo[sc_link->target];
                   1088:        int lun = sc_link->lun;
                   1089:        struct ncr53c9x_linfo *li = TINFO_LUN(ti, lun);
                   1090:
                   1091:        NCR_TRACE(("[ncr53c9x_done(error:%x)] ", xs->error));
                   1092:
                   1093:        timeout_del(&ecb->to);
                   1094:
                   1095:        if (ecb->stat == SCSI_QUEUE_FULL) {
                   1096:                /*
                   1097:                 * Set current throttle -- we should reset
                   1098:                 * this periodically
                   1099:                 */
                   1100:                sc_link->openings = li->used - 1;
                   1101:                printf("\n%s: QFULL -- throttling to %d commands\n",
                   1102:                    sc->sc_dev.dv_xname, sc_link->openings);
                   1103:        }
                   1104:
                   1105:        /*
                   1106:         * Now, if we've come here with no error code, i.e. we've kept the
                   1107:         * initial XS_NOERROR, and the status code signals that we should
                   1108:         * check sense, we'll need to set up a request sense cmd block and
                   1109:         * push the command back into the ready queue *before* any other
                   1110:         * commands for this target/lunit, else we lose the sense info.
                   1111:         * We don't support chk sense conditions for the request sense cmd.
                   1112:         */
                   1113:        if (xs->error == XS_NOERROR) {
                   1114:                xs->status = ecb->stat;
                   1115:                if ((ecb->flags & ECB_ABORT) != 0) {
                   1116:                        xs->error = XS_TIMEOUT;
                   1117:                } else if ((ecb->flags & ECB_SENSE) != 0) {
                   1118:                        xs->error = XS_SENSE;
                   1119:                } else if ((ecb->stat & ST_MASK) == SCSI_CHECK) {
                   1120:                        /* First, save the return values */
                   1121:                        xs->resid = ecb->dleft;
                   1122:                        ncr53c9x_sense(sc, ecb);
                   1123:                        return;
                   1124:                } else {
                   1125:                        xs->resid = ecb->dleft;
                   1126:                }
                   1127:        }
                   1128:
                   1129:        xs->flags |= ITSDONE;
                   1130:
                   1131: #ifdef NCR53C9X_DEBUG
                   1132:        if (ncr53c9x_debug & NCR_SHOWMISC) {
                   1133:                if (xs->resid != 0)
                   1134:                        printf("resid=%lu ", (unsigned long)xs->resid);
                   1135:                if (xs->error == XS_SENSE)
                   1136:                        printf("sense=0x%02x\n", xs->sense.error_code);
                   1137:                else
                   1138:                        printf("error=%d\n", xs->error);
                   1139:        }
                   1140: #endif
                   1141:
                   1142:        /*
                   1143:         * Remove the ECB from whatever queue it's on.
                   1144:         */
                   1145:        ncr53c9x_dequeue(sc, ecb);
                   1146:        if (ecb == sc->sc_nexus) {
                   1147:                sc->sc_nexus = NULL;
                   1148:                if (sc->sc_state != NCR_CLEANING) {
                   1149:                        sc->sc_state = NCR_IDLE;
                   1150:                        ncr53c9x_sched(sc);
                   1151:                }
                   1152:        }
                   1153:
                   1154:        if (xs->error == XS_SELTIMEOUT) {
                   1155:                /* Selection timeout -- discard this LUN if empty */
                   1156:                if (!li->untagged && !li->used) {
                   1157:                        if (lun < NCR_NLUN)
                   1158:                                ti->lun[lun] = NULL;
                   1159:                        LIST_REMOVE(li, link);
                   1160:                        free(li, M_DEVBUF);
                   1161:                }
                   1162:        }
                   1163:
                   1164:        ncr53c9x_free_ecb(sc, ecb, xs->flags);
                   1165:        ti->cmds++;
                   1166:        scsi_done(xs);
                   1167: }
                   1168:
                   1169: void
                   1170: ncr53c9x_dequeue(sc, ecb)
                   1171:        struct ncr53c9x_softc *sc;
                   1172:        struct ncr53c9x_ecb *ecb;
                   1173: {
                   1174:        struct ncr53c9x_tinfo *ti =
                   1175:            &sc->sc_tinfo[ecb->xs->sc_link->target];
                   1176:        struct ncr53c9x_linfo *li;
                   1177:        int64_t lun = ecb->xs->sc_link->lun;
                   1178:
                   1179:        li = TINFO_LUN(ti, lun);
                   1180: #ifdef DIAGNOSTIC
                   1181:        if ((!li) || (li->lun != lun))
                   1182:                panic("ncr53c9x_dequeue: lun %qx for ecb %p does not exist",
                   1183:                    (long long)lun, ecb);
                   1184: #endif
                   1185:        if (li->untagged == ecb) {
                   1186:                li->busy = 0;
                   1187:                li->untagged = NULL;
                   1188:        }
                   1189:        if (ecb->tag[0] && li->queued[ecb->tag[1]]) {
                   1190: #ifdef DIAGNOSTIC
                   1191:                if (li->queued[ecb->tag[1]] && (li->queued[ecb->tag[1]] != ecb))
                   1192:                        panic("ncr53c9x_dequeue: slot %d for lun %qx has %p "
                   1193:                            "instead of ecb %p", ecb->tag[1],
                   1194:                            (long long)lun,
                   1195:                            li->queued[ecb->tag[1]], ecb);
                   1196: #endif
                   1197:                li->queued[ecb->tag[1]] = NULL;
                   1198:                li->used --;
                   1199:
                   1200:        }
                   1201:        if (ecb->flags & ECB_READY) {
                   1202:                ecb->flags &= ~ECB_READY;
                   1203:                TAILQ_REMOVE(&sc->ready_list, ecb, chain);
                   1204:        }
                   1205:  }
                   1206:
                   1207: /*
                   1208:  * INTERRUPT/PROTOCOL ENGINE
                   1209:  */
                   1210:
                   1211: /*
                   1212:  * Schedule an outgoing message by prioritizing it, and asserting
                   1213:  * attention on the bus. We can only do this when we are the initiator
                   1214:  * else there will be an illegal command interrupt.
                   1215:  */
                   1216: #define ncr53c9x_sched_msgout(m) \
                   1217:        do {                                                    \
                   1218:                NCR_MISC(("ncr53c9x_sched_msgout %x %d ", m, __LINE__));        \
                   1219:                NCRCMD(sc, NCRCMD_SETATN);                      \
                   1220:                sc->sc_flags |= NCR_ATN;                        \
                   1221:                sc->sc_msgpriq |= (m);                          \
                   1222:        } while (0)
                   1223:
                   1224: static void
                   1225: ncr53c9x_flushfifo(struct ncr53c9x_softc *sc)
                   1226: {
                   1227:        NCR_MISC(("[flushfifo] "));
                   1228:
                   1229:        NCRCMD(sc, NCRCMD_FLUSH);
                   1230:
                   1231:        if (sc->sc_phase == COMMAND_PHASE ||
                   1232:            sc->sc_phase == MESSAGE_OUT_PHASE)
                   1233:                DELAY(2);
                   1234: }
                   1235:
                   1236: static int
                   1237: ncr53c9x_rdfifo(struct ncr53c9x_softc *sc, int how)
                   1238: {
                   1239:        int i, n;
                   1240:        u_char *buf;
                   1241:
                   1242:        switch(how) {
                   1243:        case NCR_RDFIFO_START:
                   1244:                buf = sc->sc_imess;
                   1245:                sc->sc_imlen = 0;
                   1246:                break;
                   1247:        case NCR_RDFIFO_CONTINUE:
                   1248:                buf = sc->sc_imess + sc->sc_imlen;
                   1249:                break;
                   1250:        default:
                   1251:                panic("ncr53c9x_rdfifo: bad flag");
                   1252:                break;
                   1253:        }
                   1254:
                   1255:        /*
                   1256:         * XXX buffer (sc_imess) size for message
                   1257:         */
                   1258:
                   1259:        n = NCR_READ_REG(sc, NCR_FFLAG) & NCRFIFO_FF;
                   1260:
                   1261:        if (sc->sc_rev == NCR_VARIANT_FAS366) {
                   1262:                n *= 2;
                   1263:
                   1264:                for (i = 0; i < n; i++)
                   1265:                        buf[i] = NCR_READ_REG(sc, NCR_FIFO);
                   1266:
                   1267:                if (sc->sc_espstat2 & FAS_STAT2_ISHUTTLE) {
                   1268:
                   1269:                        NCR_WRITE_REG(sc, NCR_FIFO, 0);
                   1270:                        buf[i++] = NCR_READ_REG(sc, NCR_FIFO);
                   1271:
                   1272:                        NCR_READ_REG(sc, NCR_FIFO);
                   1273:
                   1274:                        ncr53c9x_flushfifo(sc);
                   1275:                }
                   1276:        } else {
                   1277:                for (i = 0; i < n; i++)
                   1278:                        buf[i] = NCR_READ_REG(sc, NCR_FIFO);
                   1279:        }
                   1280:
                   1281:        sc->sc_imlen += i;
                   1282:
                   1283: #ifdef NCR53C9X_DEBUG
                   1284:        {
                   1285:                int j;
                   1286:
                   1287:                NCR_TRACE(("\n[rdfifo %s (%d):",
                   1288:                    (how == NCR_RDFIFO_START) ? "start" : "cont",
                   1289:                    (int)sc->sc_imlen));
                   1290:                if (ncr53c9x_debug & NCR_SHOWTRAC) {
                   1291:                        for (j = 0; j < sc->sc_imlen; j++)
                   1292:                                printf(" %02x", sc->sc_imess[j]);
                   1293:                        printf("]\n");
                   1294:                }
                   1295:        }
                   1296: #endif
                   1297:        return sc->sc_imlen;
                   1298: }
                   1299:
                   1300: static void
                   1301: ncr53c9x_wrfifo(struct ncr53c9x_softc *sc, u_char *p, int len)
                   1302: {
                   1303:        int i;
                   1304:
                   1305: #ifdef NCR53C9X_DEBUG
                   1306:        NCR_MISC(("[wrfifo(%d):", len));
                   1307:        if (ncr53c9x_debug & NCR_SHOWTRAC) {
                   1308:                for (i = 0; i < len; i++)
                   1309:                        printf(" %02x", p[i]);
                   1310:                printf("]\n");
                   1311:        }
                   1312: #endif
                   1313:
                   1314:        for (i = 0; i < len; i++) {
                   1315:                NCR_WRITE_REG(sc, NCR_FIFO, p[i]);
                   1316:
                   1317:                if (sc->sc_rev == NCR_VARIANT_FAS366)
                   1318:                        NCR_WRITE_REG(sc, NCR_FIFO, 0);
                   1319:        }
                   1320: }
                   1321:
                   1322: int
                   1323: ncr53c9x_reselect(sc, message, tagtype, tagid)
                   1324:        struct ncr53c9x_softc *sc;
                   1325:        int message;
                   1326:        int tagtype;
                   1327:        int tagid;
                   1328: {
                   1329:        u_char selid, target, lun;
                   1330:        struct ncr53c9x_ecb *ecb = NULL;
                   1331:        struct ncr53c9x_tinfo *ti;
                   1332:        struct ncr53c9x_linfo *li;
                   1333:
                   1334:        if (sc->sc_rev == NCR_VARIANT_FAS366) {
                   1335:                target = sc->sc_selid;
                   1336:        } else {
                   1337:                /*
                   1338:                 * The SCSI chip made a snapshot of the data bus while the reselection
                   1339:                 * was being negotiated.  This enables us to determine which target did
                   1340:                 * the reselect.
                   1341:                 */
                   1342:                selid = sc->sc_selid & ~(1 << sc->sc_id);
                   1343:                if (selid & (selid - 1)) {
                   1344:                        printf("%s: reselect with invalid selid %02x;"
                   1345:                            " sending DEVICE RESET\n", sc->sc_dev.dv_xname, selid);
                   1346:                        goto reset;
                   1347:
                   1348:                }
                   1349:                target = ffs(selid) - 1;
                   1350:        }
                   1351:        lun = message & 0x07;
                   1352:
                   1353:        /*
                   1354:         * Search wait queue for disconnected cmd
                   1355:         * The list should be short, so I haven't bothered with
                   1356:         * any more sophisticated structures than a simple
                   1357:         * singly linked list.
                   1358:         */
                   1359:        ti = &sc->sc_tinfo[target];
                   1360:        li = TINFO_LUN(ti, lun);
                   1361:
                   1362:        /*
                   1363:         * We can get as far as the LUN with the IDENTIFY
                   1364:         * message.  Check to see if we're running an
                   1365:         * un-tagged command.  Otherwise ack the IDENTIFY
                   1366:         * and wait for a tag message.
                   1367:         */
                   1368:        if (li != NULL) {
                   1369:                if (li->untagged != NULL && li->busy)
                   1370:                        ecb = li->untagged;
                   1371:                else if (tagtype != MSG_SIMPLE_Q_TAG) {
                   1372:                        /* Wait for tag to come by */
                   1373:                        sc->sc_state = NCR_IDENTIFIED;
                   1374:                        return (0);
                   1375:                } else if (tagtype) ecb = li->queued[tagid];
                   1376:        }
                   1377:        if (ecb == NULL) {
                   1378:                printf("%s: reselect from target %d lun %d tag %x:%x with no nexus;"
                   1379:                    " sending ABORT\n", sc->sc_dev.dv_xname, target, lun, tagtype, tagid);
                   1380:                goto abort;
                   1381:        }
                   1382:
                   1383:        /* Make this nexus active again. */
                   1384:        sc->sc_state = NCR_CONNECTED;
                   1385:        sc->sc_nexus = ecb;
                   1386:        ncr53c9x_setsync(sc, ti);
                   1387:
                   1388:        if (ecb->flags & ECB_RESET)
                   1389:                ncr53c9x_sched_msgout(SEND_DEV_RESET);
                   1390:        else if (ecb->flags & ECB_ABORT)
                   1391:                ncr53c9x_sched_msgout(SEND_ABORT);
                   1392:
                   1393:        /* Do an implicit RESTORE POINTERS. */
                   1394:        sc->sc_dp = ecb->daddr;
                   1395:        sc->sc_dleft = ecb->dleft;
                   1396:
                   1397:        return (0);
                   1398:
                   1399: reset:
                   1400:        ncr53c9x_sched_msgout(SEND_DEV_RESET);
                   1401:        return (1);
                   1402:
                   1403: abort:
                   1404:        ncr53c9x_sched_msgout(SEND_ABORT);
                   1405:        return (1);
                   1406: }
                   1407:
                   1408: #define IS1BYTEMSG(m) (((m) != 1 && (m) < 0x20) || (m) & 0x80)
                   1409: #define IS2BYTEMSG(m) (((m) & 0xf0) == 0x20)
                   1410: #define ISEXTMSG(m) ((m) == 1)
                   1411:
                   1412: static inline int
                   1413: __verify_msg_format(u_char *p, int len)
                   1414: {
                   1415:
                   1416:        if (len == 1 && IS1BYTEMSG(p[0]))
                   1417:                return 1;
                   1418:        if (len == 2 && IS2BYTEMSG(p[0]))
                   1419:                return 1;
                   1420:        if (len >= 3 && ISEXTMSG(p[0]) &&
                   1421:            len == p[1] + 2)
                   1422:                return 1;
                   1423:
                   1424:        return 0;
                   1425: }
                   1426:
                   1427: /*
                   1428:  * Get an incoming message as initiator.
                   1429:  *
                   1430:  * The SCSI bus must already be in MESSAGE_IN_PHASE and there is a
                   1431:  * byte in the FIFO
                   1432:  */
                   1433: void
                   1434: ncr53c9x_msgin(sc)
                   1435:        struct ncr53c9x_softc *sc;
                   1436: {
                   1437:
                   1438:        NCR_TRACE(("[ncr53c9x_msgin(curmsglen:%ld)] ", (long)sc->sc_imlen));
                   1439:
                   1440:        if (sc->sc_imlen == 0) {
                   1441:                printf("%s: msgin: no msg byte available\n", sc->sc_dev.dv_xname);
                   1442:                return;
                   1443:        }
                   1444:
                   1445:        /*
                   1446:         * Prepare for a new message.  A message should (according
                   1447:         * to the SCSI standard) be transmitted in one single
                   1448:         * MESSAGE_IN_PHASE. If we have been in some other phase,
                   1449:         * then this is a new message.
                   1450:         */
                   1451:        if (sc->sc_prevphase != MESSAGE_IN_PHASE && sc->sc_state != NCR_RESELECTED) {
                   1452:                printf("%s: phase change, dropping message, prev %d, state %d\n",
                   1453:                    sc->sc_dev.dv_xname, sc->sc_prevphase, sc->sc_state);
                   1454:                sc->sc_flags &= ~NCR_DROP_MSGI;
                   1455:                sc->sc_imlen = 0;
                   1456:        }
                   1457:
                   1458:        NCR_TRACE(("<msgbyte:0x%02x>", sc->sc_imess[0]));
                   1459:
                   1460:        /*
                   1461:         * If we're going to reject the message, don't bother storing
                   1462:         * the incoming bytes.  But still, we need to ACK them.
                   1463:         */
                   1464:        if ((sc->sc_flags & NCR_DROP_MSGI)) {
                   1465:                NCRCMD(sc, NCRCMD_MSGOK);
                   1466:                printf("<dropping msg byte %x>",
                   1467:                        sc->sc_imess[sc->sc_imlen]);
                   1468:                return;
                   1469:        }
                   1470:
                   1471:        if (sc->sc_imlen >= NCR_MAX_MSG_LEN) {
                   1472:                ncr53c9x_sched_msgout(SEND_REJECT);
                   1473:                sc->sc_flags |= NCR_DROP_MSGI;
                   1474:        } else {
                   1475:                u_char *pb;
                   1476:                int plen;
                   1477:
                   1478:                switch (sc->sc_state) {
                   1479:                        /*
                   1480:                         * if received message is the first of reselection
                   1481:                         * then first byte is selid, and then message
                   1482:                         */
                   1483:                case NCR_RESELECTED:
                   1484:                        pb = sc->sc_imess + 1;
                   1485:                        plen = sc->sc_imlen - 1;
                   1486:                        break;
                   1487:                default:
                   1488:                        pb = sc->sc_imess;
                   1489:                        plen = sc->sc_imlen;
                   1490:                        break;
                   1491:                }
                   1492:
                   1493:                if (__verify_msg_format(pb, plen))
                   1494:                        goto gotit;
                   1495:        }
                   1496:
                   1497:        /* Ack what we have so far */
                   1498:        NCRCMD(sc, NCRCMD_MSGOK);
                   1499:        return;
                   1500:
                   1501: gotit:
                   1502:        NCR_MSGS(("gotmsg(%x) state %d", sc->sc_imess[0], sc->sc_state));
                   1503:        /* we got complete message, flush the imess, XXX nobody uses imlen below */
                   1504:        sc->sc_imlen = 0;
                   1505:
                   1506:        /*
                   1507:         * Now we should have a complete message (1 byte, 2 byte
                   1508:         * and moderately long extended messages).  We only handle
                   1509:         * extended messages which total length is shorter than
                   1510:         * NCR_MAX_MSG_LEN.  Longer messages will be amputated.
                   1511:         */
                   1512:        switch (sc->sc_state) {
                   1513:                struct ncr53c9x_ecb *ecb;
                   1514:                struct ncr53c9x_tinfo *ti;
                   1515:                struct ncr53c9x_linfo *li;
                   1516:                int lun;
                   1517:
                   1518:        case NCR_CONNECTED:
                   1519:                ecb = sc->sc_nexus;
                   1520:                ti = &sc->sc_tinfo[ecb->xs->sc_link->target];
                   1521:
                   1522:                switch (sc->sc_imess[0]) {
                   1523:                case MSG_CMDCOMPLETE:
                   1524:                        NCR_MSGS(("cmdcomplete "));
                   1525:                        if (sc->sc_dleft < 0) {
                   1526:                                sc_print_addr(ecb->xs->sc_link);
                   1527:                                printf("got %ld extra bytes\n",
                   1528:                                    -(long)sc->sc_dleft);
                   1529:                                sc->sc_dleft = 0;
                   1530:                        }
                   1531:                        ecb->dleft = (ecb->flags & ECB_TENTATIVE_DONE)
                   1532:                                ? 0
                   1533:                                : sc->sc_dleft;
                   1534:                        if ((ecb->flags & ECB_SENSE) == 0)
                   1535:                                ecb->xs->resid = ecb->dleft;
                   1536:                        sc->sc_state = NCR_CMDCOMPLETE;
                   1537:                        break;
                   1538:
                   1539:                case MSG_MESSAGE_REJECT:
                   1540:                        NCR_MSGS(("msg reject (msgout=%x) ", sc->sc_msgout));
                   1541:                        switch (sc->sc_msgout) {
                   1542:                        case SEND_TAG:
                   1543:                                /* Target does not like tagged queuing.
                   1544:                                 *  - Flush the command queue
                   1545:                                 *  - Disable tagged queuing for the target
                   1546:                                 *  - Dequeue ecb from the queued array.
                   1547:                                 */
                   1548:                                printf("%s: tagged queuing rejected: target %d\n",
                   1549:                                    sc->sc_dev.dv_xname, ecb->xs->sc_link->target);
                   1550:
                   1551:                                NCR_MSGS(("(rejected sent tag)"));
                   1552:                                NCRCMD(sc, NCRCMD_FLUSH);
                   1553:                                DELAY(1);
                   1554:                                ti->flags &= ~T_TAG;
                   1555:                                lun = ecb->xs->sc_link->lun;
                   1556:                                li = TINFO_LUN(ti, lun);
                   1557:                                if (ecb->tag[0] &&
                   1558:                                    li->queued[ecb->tag[1]] != NULL) {
                   1559:                                        li->queued[ecb->tag[1]] = NULL;
                   1560:                                        li->used--;
                   1561:                                }
                   1562:                                ecb->tag[0] = ecb->tag[1] = 0;
                   1563:                                li->untagged = ecb;
                   1564:                                li->busy = 1;
                   1565:                                break;
                   1566:
                   1567:                        case SEND_SDTR:
                   1568:                                printf("%s: sync transfer rejected: target %d\n",
                   1569:                                    sc->sc_dev.dv_xname, ecb->xs->sc_link->target);
                   1570:                                sc->sc_flags &= ~NCR_SYNCHNEGO;
                   1571:                                ti->flags &= ~(T_NEGOTIATE | T_SYNCMODE);
                   1572:                                ncr53c9x_setsync(sc, ti);
                   1573:                                break;
                   1574:
                   1575:                        case SEND_WDTR:
                   1576:                                printf("%s: wide transfer rejected: target %d\n",
                   1577:                                    sc->sc_dev.dv_xname, ecb->xs->sc_link->target);
                   1578:                                ti->flags &= ~T_WIDE;
                   1579:                                ti->width = 0;
                   1580:                                break;
                   1581:
                   1582:                        case SEND_INIT_DET_ERR:
                   1583:                                goto abort;
                   1584:                        }
                   1585:                        break;
                   1586:
                   1587:                case MSG_NOOP:
                   1588:                        NCR_MSGS(("noop "));
                   1589:                        break;
                   1590:
                   1591:                case MSG_HEAD_OF_Q_TAG:
                   1592:                case MSG_SIMPLE_Q_TAG:
                   1593:                case MSG_ORDERED_Q_TAG:
                   1594:                        NCR_MSGS(("TAG %x:%x", sc->sc_imess[0], sc->sc_imess[1]));
                   1595:                        break;
                   1596:
                   1597:                case MSG_DISCONNECT:
                   1598:                        NCR_MSGS(("disconnect "));
                   1599:                        ti->dconns++;
                   1600:                        sc->sc_state = NCR_DISCONNECT;
                   1601:
                   1602:                        /*
                   1603:                         * Mark the fact that all bytes have moved. The
                   1604:                         * target may not bother to do a SAVE POINTERS
                   1605:                         * at this stage. This flag will set the residual
                   1606:                         * count to zero on MSG COMPLETE.
                   1607:                         */
                   1608:                        if (sc->sc_dleft == 0)
                   1609:                                ecb->flags |= ECB_TENTATIVE_DONE;
                   1610:
                   1611:                        break;
                   1612:
                   1613:                case MSG_SAVEDATAPOINTER:
                   1614:                        NCR_MSGS(("save datapointer "));
                   1615:                        ecb->daddr = sc->sc_dp;
                   1616:                        ecb->dleft = sc->sc_dleft;
                   1617:                        break;
                   1618:
                   1619:                case MSG_RESTOREPOINTERS:
                   1620:                        NCR_MSGS(("restore datapointer "));
                   1621:                        sc->sc_dp = ecb->daddr;
                   1622:                        sc->sc_dleft = ecb->dleft;
                   1623:                        break;
                   1624:
                   1625:                case MSG_EXTENDED:
                   1626:                        NCR_MSGS(("extended(%x) ", sc->sc_imess[2]));
                   1627:                        switch (sc->sc_imess[2]) {
                   1628:                        case MSG_EXT_SDTR:
                   1629:                                NCR_MSGS(("SDTR period %d, offset %d ",
                   1630:                                        sc->sc_imess[3], sc->sc_imess[4]));
                   1631:                                if (sc->sc_imess[1] != 3)
                   1632:                                        goto reject;
                   1633:                                ti->period = sc->sc_imess[3];
                   1634:                                ti->offset = sc->sc_imess[4];
                   1635:                                ti->flags &= ~T_NEGOTIATE;
                   1636:                                if (sc->sc_minsync == 0 ||
                   1637:                                    ti->offset == 0 ||
                   1638:                                    ti->period > 124) {
                   1639: #ifdef NCR53C9X_DEBUG
                   1640:                                        sc_print_addr(ecb->xs->sc_link);
                   1641:                                        printf("async mode\n");
                   1642: #endif
                   1643:                                        if ((sc->sc_flags&NCR_SYNCHNEGO)
                   1644:                                            == 0) {
                   1645:                                                /*
                   1646:                                                 * target initiated negotiation
                   1647:                                                 */
                   1648:                                                ti->offset = 0;
                   1649:                                                ti->flags &= ~T_SYNCMODE;
                   1650:                                                ncr53c9x_sched_msgout(
                   1651:                                                    SEND_SDTR);
                   1652:                                        } else {
                   1653:                                                /* we are async */
                   1654:                                                ti->flags &= ~T_SYNCMODE;
                   1655:                                        }
                   1656:                                } else {
                   1657: #ifdef NCR53C9X_DEBUG
                   1658:                                        int r, s;
                   1659: #endif
                   1660:                                        int p;
                   1661:
                   1662:                                        p = ncr53c9x_stp2cpb(sc, ti->period);
                   1663:                                        ti->period = ncr53c9x_cpb2stp(sc, p);
                   1664: #ifdef NCR53C9X_DEBUG
                   1665:                                        sc_print_addr(ecb->xs->sc_link);
                   1666:                                        r = 250/ti->period;
                   1667:                                        s = (100*250)/ti->period - 100*r;
                   1668:                                        printf("max sync rate %d.%02dMB/s\n",
                   1669:                                                r, s);
                   1670: #endif
                   1671:                                        if ((sc->sc_flags&NCR_SYNCHNEGO) == 0) {
                   1672:                                                /*
                   1673:                                                 * target initiated negotiation
                   1674:                                                 */
                   1675:                                                if (ti->period <
                   1676:                                                    sc->sc_minsync)
                   1677:                                                        ti->period =
                   1678:                                                            sc->sc_minsync;
                   1679:                                                if (ti->offset > 15)
                   1680:                                                        ti->offset = 15;
                   1681:                                                ti->flags &= ~T_SYNCMODE;
                   1682:                                                ncr53c9x_sched_msgout(
                   1683:                                                    SEND_SDTR);
                   1684:                                        } else {
                   1685:                                                /* we are sync */
                   1686:                                                ti->flags |= T_SYNCMODE;
                   1687:                                        }
                   1688:                                }
                   1689:                                sc->sc_flags &= ~NCR_SYNCHNEGO;
                   1690:                                ncr53c9x_setsync(sc, ti);
                   1691:                                break;
                   1692:
                   1693:                        case MSG_EXT_WDTR:
                   1694:                                printf("%s: wide mode %d\n",
                   1695:                                    sc->sc_dev.dv_xname, sc->sc_imess[3]);
                   1696:                                if (sc->sc_imess[3] == 1) {
                   1697:                                        ti->cfg3 |= NCRFASCFG3_EWIDE;
                   1698:                                        ncr53c9x_setsync(sc, ti);
                   1699:                                } else
                   1700:                                        ti->width = 0;
                   1701:                                ti->flags &= ~T_WIDE;
                   1702:                                break;
                   1703:                        default:
                   1704:                                sc_print_addr(ecb->xs->sc_link);
                   1705:                                printf("unrecognized MESSAGE EXTENDED;"
                   1706:                                    " sending REJECT\n");
                   1707:                                goto reject;
                   1708:                        }
                   1709:                        break;
                   1710:
                   1711:                default:
                   1712:                        NCR_MSGS(("ident "));
                   1713:                        sc_print_addr(ecb->xs->sc_link);
                   1714:                        printf("unrecognized MESSAGE; sending REJECT\n");
                   1715:                reject:
                   1716:                        ncr53c9x_sched_msgout(SEND_REJECT);
                   1717:                        break;
                   1718:                }
                   1719:                break;
                   1720:
                   1721:        case NCR_IDENTIFIED:
                   1722:                /*
                   1723:                 * IDENTIFY message was received and queue tag is expected now
                   1724:                 */
                   1725:                if ((sc->sc_imess[0] != MSG_SIMPLE_Q_TAG) ||
                   1726:                    (sc->sc_msgify == 0)) {
                   1727:                        printf("%s: TAG reselect without IDENTIFY;"
                   1728:                            " MSG %x;"
                   1729:                            " sending DEVICE RESET\n",
                   1730:                            sc->sc_dev.dv_xname,
                   1731:                            sc->sc_imess[0]);
                   1732:                        goto reset;
                   1733:                }
                   1734:                (void) ncr53c9x_reselect(sc, sc->sc_msgify,
                   1735:                    sc->sc_imess[0], sc->sc_imess[1]);
                   1736:                break;
                   1737:
                   1738:        case NCR_RESELECTED:
                   1739:                if (MSG_ISIDENTIFY(sc->sc_imess[1])) {
                   1740:                        sc->sc_msgify = sc->sc_imess[1];
                   1741:                } else {
                   1742:                        printf("%s: reselect without IDENTIFY;"
                   1743:                            " MSG %x;"
                   1744:                            " sending DEVICE RESET\n",
                   1745:                            sc->sc_dev.dv_xname,
                   1746:                            sc->sc_imess[1]);
                   1747:                        goto reset;
                   1748:                }
                   1749:                (void) ncr53c9x_reselect(sc, sc->sc_msgify, 0, 0);
                   1750:                break;
                   1751:
                   1752:        default:
                   1753:                printf("%s: unexpected MESSAGE IN; sending DEVICE RESET\n",
                   1754:                    sc->sc_dev.dv_xname);
                   1755:        reset:
                   1756:                ncr53c9x_sched_msgout(SEND_DEV_RESET);
                   1757:                break;
                   1758:
                   1759:        abort:
                   1760:                ncr53c9x_sched_msgout(SEND_ABORT);
                   1761:                break;
                   1762:        }
                   1763:
                   1764:        /* if we have more messages to send set ATN */
                   1765:        if (sc->sc_msgpriq)
                   1766:                NCRCMD(sc, NCRCMD_SETATN);
                   1767:
                   1768:        /* Ack last message byte */
                   1769:        NCRCMD(sc, NCRCMD_MSGOK);
                   1770:
                   1771:        /* Done, reset message pointer. */
                   1772:        sc->sc_flags &= ~NCR_DROP_MSGI;
                   1773:        sc->sc_imlen = 0;
                   1774: }
                   1775:
                   1776:
                   1777: /*
                   1778:  * Send the highest priority, scheduled message
                   1779:  */
                   1780: void
                   1781: ncr53c9x_msgout(sc)
                   1782:        struct ncr53c9x_softc *sc;
                   1783: {
                   1784:        struct ncr53c9x_tinfo *ti;
                   1785:        struct ncr53c9x_ecb *ecb;
                   1786:        size_t size;
                   1787:
                   1788:        NCR_TRACE(("[ncr53c9x_msgout(priq:%x, prevphase:%x)]",
                   1789:            sc->sc_msgpriq, sc->sc_prevphase));
                   1790:
                   1791:        /*
                   1792:         * XXX - the NCR_ATN flag is not in sync with the actual ATN
                   1793:         *       condition on the SCSI bus. The 53c9x chip
                   1794:         *       automatically turns off ATN before sending the
                   1795:         *       message byte.  (see also the comment below in the
                   1796:         *       default case when picking out a message to send)
                   1797:         */
                   1798:        if (sc->sc_flags & NCR_ATN) {
                   1799:                if (sc->sc_prevphase != MESSAGE_OUT_PHASE) {
                   1800:                new:
                   1801:                        NCRCMD(sc, NCRCMD_FLUSH);
                   1802: /*                     DELAY(1); */
                   1803:                        sc->sc_msgoutq = 0;
                   1804:                        sc->sc_omlen = 0;
                   1805:                }
                   1806:        } else {
                   1807:                if (sc->sc_prevphase == MESSAGE_OUT_PHASE) {
                   1808:                        ncr53c9x_sched_msgout(sc->sc_msgoutq);
                   1809:                        goto new;
                   1810:                } else {
                   1811:                        printf("%s at line %d: unexpected MESSAGE OUT phase\n",
                   1812:                            sc->sc_dev.dv_xname, __LINE__);
                   1813:                }
                   1814:        }
                   1815:
                   1816:        if (sc->sc_omlen == 0) {
                   1817:                /* Pick up highest priority message */
                   1818:                sc->sc_msgout = sc->sc_msgpriq & -sc->sc_msgpriq;
                   1819:                sc->sc_msgoutq |= sc->sc_msgout;
                   1820:                sc->sc_msgpriq &= ~sc->sc_msgout;
                   1821:                sc->sc_omlen = 1;               /* "Default" message len */
                   1822:                switch (sc->sc_msgout) {
                   1823:                case SEND_SDTR:
                   1824:                        ecb = sc->sc_nexus;
                   1825:                        ti = &sc->sc_tinfo[ecb->xs->sc_link->target];
                   1826:                        sc->sc_omess[0] = MSG_EXTENDED;
                   1827:                        sc->sc_omess[1] = 3;
                   1828:                        sc->sc_omess[2] = MSG_EXT_SDTR;
                   1829:                        sc->sc_omess[3] = ti->period;
                   1830:                        sc->sc_omess[4] = ti->offset;
                   1831:                        sc->sc_omlen = 5;
                   1832:                        if ((sc->sc_flags & NCR_SYNCHNEGO) == 0) {
                   1833:                                ti->flags |= T_SYNCMODE;
                   1834:                                ncr53c9x_setsync(sc, ti);
                   1835:                        }
                   1836:                        break;
                   1837:                case SEND_WDTR:
                   1838:                        ecb = sc->sc_nexus;
                   1839:                        ti = &sc->sc_tinfo[ecb->xs->sc_link->target];
                   1840:                        sc->sc_omess[0] = MSG_EXTENDED;
                   1841:                        sc->sc_omess[1] = 2;
                   1842:                        sc->sc_omess[2] = MSG_EXT_WDTR;
                   1843:                        sc->sc_omess[3] = ti->width;
                   1844:                        sc->sc_omlen = 4;
                   1845:                        break;
                   1846:                case SEND_IDENTIFY:
                   1847:                        if (sc->sc_state != NCR_CONNECTED) {
                   1848:                                printf("%s at line %d: no nexus\n",
                   1849:                                    sc->sc_dev.dv_xname, __LINE__);
                   1850:                        }
                   1851:                        ecb = sc->sc_nexus;
                   1852:                        sc->sc_omess[0] =
                   1853:                            MSG_IDENTIFY(ecb->xs->sc_link->lun, 0);
                   1854:                        break;
                   1855:                case SEND_TAG:
                   1856:                        if (sc->sc_state != NCR_CONNECTED) {
                   1857:                                printf("%s at line %d: no nexus\n",
                   1858:                                    sc->sc_dev.dv_xname, __LINE__);
                   1859:                        }
                   1860:                        ecb = sc->sc_nexus;
                   1861:                        sc->sc_omess[0] = ecb->tag[0];
                   1862:                        sc->sc_omess[1] = ecb->tag[1];
                   1863:                        sc->sc_omlen = 2;
                   1864:                        break;
                   1865:                case SEND_DEV_RESET:
                   1866:                        sc->sc_flags |= NCR_ABORTING;
                   1867:                        sc->sc_omess[0] = MSG_BUS_DEV_RESET;
                   1868:                        ecb = sc->sc_nexus;
                   1869:                        ti = &sc->sc_tinfo[ecb->xs->sc_link->target];
                   1870:                        ti->flags &= ~T_SYNCMODE;
                   1871:                        if ((ti->flags & T_SYNCHOFF) == 0)
                   1872:                                /* We can re-start sync negotiation */
                   1873:                                ti->flags |= T_NEGOTIATE;
                   1874:                        break;
                   1875:                case SEND_PARITY_ERROR:
                   1876:                        sc->sc_omess[0] = MSG_PARITY_ERROR;
                   1877:                        break;
                   1878:                case SEND_ABORT:
                   1879:                        sc->sc_flags |= NCR_ABORTING;
                   1880:                        sc->sc_omess[0] = MSG_ABORT;
                   1881:                        break;
                   1882:                case SEND_INIT_DET_ERR:
                   1883:                        sc->sc_omess[0] = MSG_INITIATOR_DET_ERR;
                   1884:                        break;
                   1885:                case SEND_REJECT:
                   1886:                        sc->sc_omess[0] = MSG_MESSAGE_REJECT;
                   1887:                        break;
                   1888:                default:
                   1889:                        /*
                   1890:                         * We normally do not get here, since the chip
                   1891:                         * automatically turns off ATN before the last
                   1892:                         * byte of a message is sent to the target.
                   1893:                         * However, if the target rejects our (multi-byte)
                   1894:                         * message early by switching to MSG IN phase
                   1895:                         * ATN remains on, so the target may return to
                   1896:                         * MSG OUT phase. If there are no scheduled messages
                   1897:                         * left we send a NO-OP.
                   1898:                         *
                   1899:                         * XXX - Note that this leaves no useful purpose for
                   1900:                         * the NCR_ATN flag.
                   1901:                         */
                   1902:                        sc->sc_flags &= ~NCR_ATN;
                   1903:                        sc->sc_omess[0] = MSG_NOOP;
                   1904:                        break;
                   1905:                }
                   1906:                sc->sc_omp = sc->sc_omess;
                   1907:        }
                   1908:
                   1909: #ifdef DEBUG
                   1910:        {
                   1911:                int i;
                   1912:
                   1913:                for (i = 0; i<sc->sc_omlen; i++)
                   1914:                        NCR_MISC(("<msgbyte:0x%02x>", sc->sc_omess[i]));
                   1915:        }
                   1916: #endif
                   1917:        if (sc->sc_rev == NCR_VARIANT_FAS366) {
                   1918:                /*
                   1919:                 * XXX fifo size
                   1920:                 */
                   1921:                ncr53c9x_flushfifo(sc);
                   1922:                ncr53c9x_wrfifo(sc, sc->sc_omp, sc->sc_omlen);
                   1923:                NCRCMD(sc, NCRCMD_TRANS);
                   1924:        } else {
                   1925:                /* (re)send the message */
                   1926:                size = min(sc->sc_omlen, sc->sc_maxxfer);
                   1927:                NCRDMA_SETUP(sc, &sc->sc_omp, &sc->sc_omlen, 0, &size);
                   1928:                /* Program the SCSI counter */
                   1929:                NCR_SET_COUNT(sc, size);
                   1930:
                   1931:                /* Load the count in and start the message-out transfer */
                   1932:                NCRCMD(sc, NCRCMD_NOP|NCRCMD_DMA);
                   1933:                NCRCMD(sc, NCRCMD_TRANS|NCRCMD_DMA);
                   1934:                NCRDMA_GO(sc);
                   1935:        }
                   1936: }
                   1937:
                   1938: /*
                   1939:  * This is the most critical part of the driver, and has to know
                   1940:  * how to deal with *all* error conditions and phases from the SCSI
                   1941:  * bus. If there are no errors and the DMA was active, then call the
                   1942:  * DMA pseudo-interrupt handler. If this returns 1, then that was it
                   1943:  * and we can return from here without further processing.
                   1944:  *
                   1945:  * Most of this needs verifying.
                   1946:  */
                   1947: int sdebug = 0;
                   1948: int
                   1949: ncr53c9x_intr(arg)
                   1950:        void *arg;
                   1951: {
                   1952:        struct ncr53c9x_softc *sc = arg;
                   1953:        struct ncr53c9x_ecb *ecb;
                   1954:        struct scsi_link *sc_link;
                   1955:        struct ncr53c9x_tinfo *ti;
                   1956:        size_t size;
                   1957:        int nfifo;
                   1958:
                   1959:        NCR_TRACE(("[ncr53c9x_intr: state %d] ", sc->sc_state));
                   1960:
                   1961:        if (!NCRDMA_ISINTR(sc))
                   1962:                return (0);
                   1963:
                   1964: again:
                   1965:        /* and what do the registers say... */
                   1966:        ncr53c9x_readregs(sc);
                   1967:
                   1968:        /*
                   1969:         * At the moment, only a SCSI Bus Reset or Illegal
                   1970:         * Command are classed as errors. A disconnect is a
                   1971:         * valid condition, and we let the code check is the
                   1972:         * "NCR_BUSFREE_OK" flag was set before declaring it
                   1973:         * and error.
                   1974:         *
                   1975:         * Also, the status register tells us about "Gross
                   1976:         * Errors" and "Parity errors". Only the Gross Error
                   1977:         * is really bad, and the parity errors are dealt
                   1978:         * with later
                   1979:         *
                   1980:         * TODO
                   1981:         *      If there are too many parity error, go to slow
                   1982:         *      cable mode ?
                   1983:         */
                   1984:
                   1985:        /* SCSI Reset */
                   1986:        if (sc->sc_espintr & NCRINTR_SBR) {
                   1987:                if (NCR_READ_REG(sc, NCR_FFLAG) & NCRFIFO_FF) {
                   1988:                        NCRCMD(sc, NCRCMD_FLUSH);
                   1989:                        DELAY(1);
                   1990:                }
                   1991:                if (sc->sc_state != NCR_SBR) {
                   1992:                        printf("%s: SCSI bus reset\n",
                   1993:                                sc->sc_dev.dv_xname);
                   1994:                        ncr53c9x_init(sc, 0); /* Restart everything */
                   1995:                        return (1);
                   1996:                }
                   1997: #if 0
                   1998: /*XXX*/                printf("<expected bus reset: "
                   1999:                        "[intr %x, stat %x, step %d]>\n",
                   2000:                        sc->sc_espintr, sc->sc_espstat,
                   2001:                        sc->sc_espstep);
                   2002: #endif
                   2003:                if (sc->sc_nexus)
                   2004:                        panic("%s: nexus in reset state",
                   2005:                      sc->sc_dev.dv_xname);
                   2006:                goto sched;
                   2007:        }
                   2008:
                   2009:        ecb = sc->sc_nexus;
                   2010:
                   2011: #define NCRINTR_ERR (NCRINTR_SBR|NCRINTR_ILL)
                   2012:        if (sc->sc_espintr & NCRINTR_ERR ||
                   2013:            sc->sc_espstat & NCRSTAT_GE) {
                   2014:
                   2015:                if (sc->sc_espstat & NCRSTAT_GE) {
                   2016:                        /* Gross Error; no target ? */
                   2017:                        if (NCR_READ_REG(sc, NCR_FFLAG) & NCRFIFO_FF) {
                   2018:                                NCRCMD(sc, NCRCMD_FLUSH);
                   2019:                                DELAY(1);
                   2020:                        }
                   2021:                        if (sc->sc_state == NCR_CONNECTED ||
                   2022:                            sc->sc_state == NCR_SELECTING) {
                   2023:                                ecb->xs->error = XS_TIMEOUT;
                   2024:                                ncr53c9x_done(sc, ecb);
                   2025:                        }
                   2026:                        return (1);
                   2027:                }
                   2028:
                   2029:                if (sc->sc_espintr & NCRINTR_ILL) {
                   2030:                        if (sc->sc_flags & NCR_EXPECT_ILLCMD) {
                   2031:                                /*
                   2032:                                 * Eat away "Illegal command" interrupt
                   2033:                                 * on a ESP100 caused by a re-selection
                   2034:                                 * while we were trying to select
                   2035:                                 * another target.
                   2036:                                 */
                   2037: #ifdef DEBUG
                   2038:                                printf("%s: ESP100 work-around activated\n",
                   2039:                                        sc->sc_dev.dv_xname);
                   2040: #endif
                   2041:                                sc->sc_flags &= ~NCR_EXPECT_ILLCMD;
                   2042:                                return (1);
                   2043:                        }
                   2044:                        /* illegal command, out of sync ? */
                   2045:                        printf("%s: illegal command: 0x%x "
                   2046:                            "(state %d, phase %x, prevphase %x)\n",
                   2047:                                sc->sc_dev.dv_xname, sc->sc_lastcmd,
                   2048:                                sc->sc_state, sc->sc_phase,
                   2049:                                sc->sc_prevphase);
                   2050:                        if (NCR_READ_REG(sc, NCR_FFLAG) & NCRFIFO_FF) {
                   2051:                                NCRCMD(sc, NCRCMD_FLUSH);
                   2052:                                DELAY(1);
                   2053:                        }
                   2054:                        ncr53c9x_init(sc, 1); /* Restart everything */
                   2055:                        return (1);
                   2056:                }
                   2057:        }
                   2058:        sc->sc_flags &= ~NCR_EXPECT_ILLCMD;
                   2059:
                   2060:        /*
                   2061:         * Call if DMA is active.
                   2062:         *
                   2063:         * If DMA_INTR returns true, then maybe go 'round the loop
                   2064:         * again in case there is no more DMA queued, but a phase
                   2065:         * change is expected.
                   2066:         */
                   2067:        if (NCRDMA_ISACTIVE(sc)) {
                   2068:                int r = NCRDMA_INTR(sc);
                   2069:                if (r == -1) {
                   2070:                        printf("%s: DMA error; resetting\n",
                   2071:                                sc->sc_dev.dv_xname);
                   2072:                        ncr53c9x_init(sc, 1);
                   2073:                        return (1);
                   2074:                }
                   2075:                /* If DMA active here, then go back to work... */
                   2076:                if (NCRDMA_ISACTIVE(sc))
                   2077:                        return (1);
                   2078:
                   2079:                if ((sc->sc_espstat & NCRSTAT_TC) == 0) {
                   2080:                        /*
                   2081:                         * DMA not completed.  If we can not find a
                   2082:                         * acceptable explanation, print a diagnostic.
                   2083:                         */
                   2084:                        if (sc->sc_state == NCR_SELECTING)
                   2085:                                /*
                   2086:                                 * This can happen if we are reselected
                   2087:                                 * while using DMA to select a target.
                   2088:                                 */
                   2089:                                /*void*/;
                   2090:                        else if (sc->sc_prevphase == MESSAGE_OUT_PHASE){
                   2091:                                /*
                   2092:                                 * Our (multi-byte) message (eg SDTR)
                   2093:                                 * was interrupted by the target to
                   2094:                                 * send a MSG REJECT.
                   2095:                                 * Print diagnostic if current phase
                   2096:                                 * is not MESSAGE IN.
                   2097:                                 */
                   2098:                                if (sc->sc_phase != MESSAGE_IN_PHASE)
                   2099:                                    printf("%s: !TC on MSG OUT"
                   2100:                                       " [intr %x, stat %x, step %d]"
                   2101:                                       " prevphase %x, resid %lx\n",
                   2102:                                        sc->sc_dev.dv_xname,
                   2103:                                        sc->sc_espintr,
                   2104:                                        sc->sc_espstat,
                   2105:                                        sc->sc_espstep,
                   2106:                                        sc->sc_prevphase,
                   2107:                                        (u_long)sc->sc_omlen);
                   2108:                        } else if (sc->sc_dleft == 0) {
                   2109:                                /*
                   2110:                                 * The DMA operation was started for
                   2111:                                 * a DATA transfer. Print a diagnostic
                   2112:                                 * if the DMA counter and TC bit
                   2113:                                 * appear to be out of sync.
                   2114:                                 */
                   2115:                                printf("%s: !TC on DATA XFER"
                   2116:                                       " [intr %x, stat %x, step %d]"
                   2117:                                       " prevphase %x, resid %x\n",
                   2118:                                        sc->sc_dev.dv_xname,
                   2119:                                        sc->sc_espintr,
                   2120:                                        sc->sc_espstat,
                   2121:                                        sc->sc_espstep,
                   2122:                                        sc->sc_prevphase,
                   2123:                                        ecb?ecb->dleft:-1);
                   2124:                        }
                   2125:                }
                   2126:        }
                   2127:
                   2128:        /*
                   2129:         * check for less serious errors
                   2130:         */
                   2131:        if (sc->sc_espstat & NCRSTAT_PE) {
                   2132:                printf("%s: SCSI bus parity error\n", sc->sc_dev.dv_xname);
                   2133:                if (sc->sc_prevphase == MESSAGE_IN_PHASE)
                   2134:                        ncr53c9x_sched_msgout(SEND_PARITY_ERROR);
                   2135:                else
                   2136:                        ncr53c9x_sched_msgout(SEND_INIT_DET_ERR);
                   2137:        }
                   2138:
                   2139:        if (sc->sc_espintr & NCRINTR_DIS) {
                   2140:                sc->sc_msgify = 0;
                   2141:                NCR_MISC(("<DISC [intr %x, stat %x, step %d]>",
                   2142:                        sc->sc_espintr,sc->sc_espstat,sc->sc_espstep));
                   2143:                if (NCR_READ_REG(sc, NCR_FFLAG) & NCRFIFO_FF) {
                   2144:                        NCRCMD(sc, NCRCMD_FLUSH);
                   2145: /*                     DELAY(1); */
                   2146:                }
                   2147:                /*
                   2148:                 * This command must (apparently) be issued within
                   2149:                 * 250mS of a disconnect. So here you are...
                   2150:                 */
                   2151:                NCRCMD(sc, NCRCMD_ENSEL);
                   2152:
                   2153:                switch (sc->sc_state) {
                   2154:                case NCR_RESELECTED:
                   2155:                        goto sched;
                   2156:
                   2157:                case NCR_SELECTING:
                   2158:                {
                   2159:                        struct ncr53c9x_linfo *li;
                   2160:
                   2161:                        ecb->xs->error = XS_SELTIMEOUT;
                   2162:
                   2163:                        /* Selection timeout -- discard all LUNs if empty */
                   2164:                        sc_link = ecb->xs->sc_link;
                   2165:                        ti = &sc->sc_tinfo[sc_link->target];
                   2166:                        for (li = LIST_FIRST(&ti->luns);
                   2167:                            li != LIST_END(&ti->luns); ) {
                   2168:                                if (!li->untagged && !li->used) {
                   2169:                                        if (li->lun < NCR_NLUN)
                   2170:                                                ti->lun[li->lun] = NULL;
                   2171:                                        LIST_REMOVE(li, link);
                   2172:                                        free(li, M_DEVBUF);
                   2173:                                        /* Restart the search at the beginning */
                   2174:                                        li = LIST_FIRST(&ti->luns);
                   2175:                                        continue;
                   2176:                                }
                   2177:                                li = LIST_NEXT(li, link);
                   2178:                        }
                   2179:                        goto finish;
                   2180:                }
                   2181:                case NCR_CONNECTED:
                   2182:                        if ((sc->sc_flags & NCR_SYNCHNEGO)) {
                   2183: #ifdef NCR53C9X_DEBUG
                   2184:                                if (ecb)
                   2185:                                        sc_print_addr(ecb->xs->sc_link);
                   2186:                                printf("sync nego not completed!\n");
                   2187: #endif
                   2188:                                ti = &sc->sc_tinfo[ecb->xs->sc_link->target];
                   2189:                                sc->sc_flags &= ~NCR_SYNCHNEGO;
                   2190:                                ti->flags &= ~(T_NEGOTIATE | T_SYNCMODE);
                   2191:                        }
                   2192:
                   2193:                        /* it may be OK to disconnect */
                   2194:                        if ((sc->sc_flags & NCR_ABORTING) == 0) {
                   2195:                                /*
                   2196:                                 * Section 5.1.1 of the SCSI 2 spec
                   2197:                                 * suggests issuing a REQUEST SENSE
                   2198:                                 * following an unexpected disconnect.
                   2199:                                 * Some devices go into a contingent
                   2200:                                 * allegiance condition when
                   2201:                                 * disconnecting, and this is necessary
                   2202:                                 * to clean up their state.
                   2203:                                 */
                   2204:                                printf("%s: unexpected disconnect; ",
                   2205:                                    sc->sc_dev.dv_xname);
                   2206:                                if (ecb->flags & ECB_SENSE) {
                   2207:                                        printf("resetting\n");
                   2208:                                        goto reset;
                   2209:                                }
                   2210:                                printf("sending REQUEST SENSE\n");
                   2211:                                timeout_del(&ecb->to);
                   2212:                                ncr53c9x_sense(sc, ecb);
                   2213:                                goto out;
                   2214:                        }
                   2215:
                   2216:                        ecb->xs->error = XS_TIMEOUT;
                   2217:                        goto finish;
                   2218:
                   2219:                case NCR_DISCONNECT:
                   2220:                        sc->sc_nexus = NULL;
                   2221:                        goto sched;
                   2222:
                   2223:                case NCR_CMDCOMPLETE:
                   2224:                        goto finish;
                   2225:                }
                   2226:        }
                   2227:
                   2228:        switch (sc->sc_state) {
                   2229:
                   2230:        case NCR_SBR:
                   2231:                printf("%s: waiting for SCSI Bus Reset to happen\n",
                   2232:                        sc->sc_dev.dv_xname);
                   2233:                return (1);
                   2234:
                   2235:        case NCR_RESELECTED:
                   2236:                /*
                   2237:                 * we must be continuing a message ?
                   2238:                 */
                   2239:                if (sc->sc_phase != MESSAGE_IN_PHASE) {
                   2240:                        printf("%s: target didn't identify\n",
                   2241:                                sc->sc_dev.dv_xname);
                   2242:                        ncr53c9x_init(sc, 1);
                   2243:                        return (1);
                   2244:                }
                   2245: printf("<<RESELECT CONT'd>>");
                   2246: #if XXXX
                   2247:                ncr53c9x_msgin(sc);
                   2248:                if (sc->sc_state != NCR_CONNECTED) {
                   2249:                        /* IDENTIFY fail?! */
                   2250:                        printf("%s: identify failed\n",
                   2251:                                sc->sc_dev.dv_xname);
                   2252:                        ncr53c9x_init(sc, 1);
                   2253:                        return (1);
                   2254:                }
                   2255: #endif
                   2256:                break;
                   2257:
                   2258:        case NCR_IDENTIFIED:
                   2259:                ecb = sc->sc_nexus;
                   2260:                if (sc->sc_phase != MESSAGE_IN_PHASE) {
                   2261:                        int i = (NCR_READ_REG(sc, NCR_FFLAG)
                   2262:                            & NCRFIFO_FF);
                   2263:                        /*
                   2264:                         * Things are seriously fucked up.
                   2265:                         * Pull the brakes, i.e. reset
                   2266:                         */
                   2267:                        printf("%s: target didn't send tag: %d bytes in fifo\n",
                   2268:                            sc->sc_dev.dv_xname, i);
                   2269:                        /* Drain and display fifo */
                   2270:                        while (i-- > 0)
                   2271:                                printf("[%d] ", NCR_READ_REG(sc, NCR_FIFO));
                   2272:                        ncr53c9x_init(sc, 1);
                   2273:                        return (1);
                   2274:                } else
                   2275:                        goto msgin;
                   2276:
                   2277:                break;
                   2278:        case NCR_IDLE:
                   2279:        case NCR_SELECTING:
                   2280:                ecb = sc->sc_nexus;
                   2281:                if (sc->sc_espintr & NCRINTR_RESEL) {
                   2282:                        sc->sc_msgpriq = sc->sc_msgout = sc->sc_msgoutq = 0;
                   2283:                        sc->sc_flags = 0;
                   2284:                        /*
                   2285:                         * If we're trying to select a
                   2286:                         * target ourselves, push our command
                   2287:                         * back into the ready list.
                   2288:                         */
                   2289:                        if (sc->sc_state == NCR_SELECTING) {
                   2290:                                NCR_MISC(("backoff selector "));
                   2291:                                timeout_del(&ecb->to);
                   2292:                                ncr53c9x_dequeue(sc, ecb);
                   2293:                                TAILQ_INSERT_HEAD(&sc->ready_list, ecb, chain);
                   2294:                                ecb->flags |= ECB_READY;
                   2295:                                ecb = sc->sc_nexus = NULL;
                   2296:                        }
                   2297:                        sc->sc_state = NCR_RESELECTED;
                   2298:                        if (sc->sc_phase != MESSAGE_IN_PHASE) {
                   2299:                                /*
                   2300:                                 * Things are seriously fucked up.
                   2301:                                 * Pull the brakes, i.e. reset
                   2302:                                 */
                   2303:                                printf("%s: target didn't identify\n",
                   2304:                                        sc->sc_dev.dv_xname);
                   2305:                                ncr53c9x_init(sc, 1);
                   2306:                                return (1);
                   2307:                        }
                   2308:                        /*
                   2309:                         * The C90 only inhibits FIFO writes until
                   2310:                         * reselection is complete, instead of
                   2311:                         * waiting until the interrupt status register
                   2312:                         * has been read. So, if the reselect happens
                   2313:                         * while we were entering a command bytes (for
                   2314:                         * another target) some of those bytes can
                   2315:                         * appear in the FIFO here, after the
                   2316:                         * interrupt is taken.
                   2317:                         */
                   2318:                        nfifo = ncr53c9x_rdfifo(sc, NCR_RDFIFO_START);
                   2319:
                   2320:                        if (nfifo < 2 ||
                   2321:                            (nfifo > 2 &&
                   2322:                             sc->sc_rev != NCR_VARIANT_ESP100)) {
                   2323:                                printf("%s: RESELECT: "
                   2324:                                    "%d bytes in FIFO! "
                   2325:                                    "[intr %x, stat %x, step %d, prevphase %x]\n",
                   2326:                                        sc->sc_dev.dv_xname,
                   2327:                                        nfifo,
                   2328:                                        sc->sc_espintr,
                   2329:                                        sc->sc_espstat,
                   2330:                                        sc->sc_espstep,
                   2331:                                        sc->sc_prevphase);
                   2332:                                ncr53c9x_init(sc, 1);
                   2333:                                return (1);
                   2334:                        }
                   2335:                        sc->sc_selid = sc->sc_imess[0];
                   2336:                        NCR_MISC(("selid=%2x ", sc->sc_selid));
                   2337:
                   2338:                        /* Handle identify message */
                   2339:                        ncr53c9x_msgin(sc);
                   2340:                        if (nfifo != 2) {
                   2341:                                /*
                   2342:                                 * Note: this should not happen
                   2343:                                 * with `dmaselect' on.
                   2344:                                 */
                   2345:                                sc->sc_flags |= NCR_EXPECT_ILLCMD;
                   2346:                                NCRCMD(sc, NCRCMD_FLUSH);
                   2347:                        } else if (sc->sc_features & NCR_F_DMASELECT &&
                   2348:                                   sc->sc_rev == NCR_VARIANT_ESP100) {
                   2349:                                sc->sc_flags |= NCR_EXPECT_ILLCMD;
                   2350:                        }
                   2351:
                   2352:                        if (sc->sc_state != NCR_CONNECTED &&
                   2353:                            sc->sc_state != NCR_IDENTIFIED) {
                   2354:                                /* IDENTIFY fail?! */
                   2355:                                printf("%s: identify failed, state %d, intr %02x\n",
                   2356:                                        sc->sc_dev.dv_xname, sc->sc_state,
                   2357:                                    sc->sc_espintr);
                   2358:                                ncr53c9x_init(sc, 1);
                   2359:                                return (1);
                   2360:                        }
                   2361:                        goto shortcut; /* ie. next phase expected soon */
                   2362:                }
                   2363:
                   2364: #define        NCRINTR_DONE    (NCRINTR_FC|NCRINTR_BS)
                   2365:                if ((sc->sc_espintr & NCRINTR_DONE) == NCRINTR_DONE) {
                   2366:                        /*
                   2367:                         * Arbitration won; examine the `step' register
                   2368:                         * to determine how far the selection could progress.
                   2369:                         */
                   2370:                        ecb = sc->sc_nexus;
                   2371:                        if (!ecb)
                   2372:                                panic("ncr53c9x: no nexus");
                   2373:
                   2374:                        sc_link = ecb->xs->sc_link;
                   2375:                        ti = &sc->sc_tinfo[sc_link->target];
                   2376:
                   2377:                        switch (sc->sc_espstep) {
                   2378:                        case 0:
                   2379:                                /*
                   2380:                                 * The target did not respond with a
                   2381:                                 * message out phase - probably an old
                   2382:                                 * device that doesn't recognize ATN.
                   2383:                                 * Clear ATN and just continue, the
                   2384:                                 * target should be in the command
                   2385:                                 * phase.
                   2386:                                 * XXXX check for command phase?
                   2387:                                 */
                   2388:                                NCRCMD(sc, NCRCMD_RSTATN);
                   2389:                                break;
                   2390:                        case 1:
                   2391:                                if ((ti->flags & T_NEGOTIATE) == 0 &&
                   2392:                                    ecb->tag[0] == 0) {
                   2393:                                        printf("%s: step 1 & !NEG\n",
                   2394:                                                sc->sc_dev.dv_xname);
                   2395:                                        goto reset;
                   2396:                                }
                   2397:                                if (sc->sc_phase != MESSAGE_OUT_PHASE) {
                   2398:                                        printf("%s: !MSGOUT\n",
                   2399:                                                sc->sc_dev.dv_xname);
                   2400:                                        goto reset;
                   2401:                                }
                   2402:                                if (ti->flags & T_WIDE) {
                   2403:                                        ncr53c9x_sched_msgout(SEND_WDTR);
                   2404:                                }
                   2405:                                if (ti->flags & T_NEGOTIATE) {
                   2406:                                        /* Start negotiating */
                   2407:                                        ti->period = sc->sc_minsync;
                   2408:                                        ti->offset = 15;
                   2409:                                        sc->sc_flags |= NCR_SYNCHNEGO;
                   2410:                                        if (ecb->tag[0])
                   2411:                                                ncr53c9x_sched_msgout(SEND_TAG|SEND_SDTR);
                   2412:                                        else
                   2413:                                                ncr53c9x_sched_msgout(SEND_SDTR);
                   2414:                                } else {
                   2415:                                        /* Could not do ATN3 so send TAG */
                   2416:                                        ncr53c9x_sched_msgout(SEND_TAG);
                   2417:                                }
                   2418:                                sc->sc_prevphase = MESSAGE_OUT_PHASE; /* XXXX */
                   2419:                                break;
                   2420:                        case 3:
                   2421:                                /*
                   2422:                                 * Grr, this is supposed to mean
                   2423:                                 * "target left command phase  prematurely".
                   2424:                                 * It seems to happen regularly when
                   2425:                                 * sync mode is on.
                   2426:                                 * Look at FIFO to see if command went out.
                   2427:                                 * (Timing problems?)
                   2428:                                 */
                   2429:                                if (sc->sc_features & NCR_F_DMASELECT) {
                   2430:                                        if (sc->sc_cmdlen == 0)
                   2431:                                                /* Hope for the best.. */
                   2432:                                                break;
                   2433:                                } else if ((NCR_READ_REG(sc, NCR_FFLAG)
                   2434:                                            & NCRFIFO_FF) == 0) {
                   2435:                                        /* Hope for the best.. */
                   2436:                                        break;
                   2437:                                }
                   2438:                                printf("(%s:%d:%d): selection failed;"
                   2439:                                        " %d left in FIFO "
                   2440:                                        "[intr %x, stat %x, step %d]\n",
                   2441:                                        sc->sc_dev.dv_xname,
                   2442:                                        sc_link->target,
                   2443:                                        sc_link->lun,
                   2444:                                        NCR_READ_REG(sc, NCR_FFLAG)
                   2445:                                         & NCRFIFO_FF,
                   2446:                                        sc->sc_espintr, sc->sc_espstat,
                   2447:                                        sc->sc_espstep);
                   2448:                                NCRCMD(sc, NCRCMD_FLUSH);
                   2449:                                ncr53c9x_sched_msgout(SEND_ABORT);
                   2450:                                return (1);
                   2451:                        case 2:
                   2452:                                /* Select stuck at Command Phase */
                   2453:                                NCRCMD(sc, NCRCMD_FLUSH);
                   2454:                                break;
                   2455:                        case 4:
                   2456:                                if (sc->sc_features & NCR_F_DMASELECT &&
                   2457:                                    sc->sc_cmdlen != 0)
                   2458:                                        printf("(%s:%d:%d): select; "
                   2459:                                               "%lu left in DMA buffer "
                   2460:                                        "[intr %x, stat %x, step %d]\n",
                   2461:                                                sc->sc_dev.dv_xname,
                   2462:                                                sc_link->target,
                   2463:                                                sc_link->lun,
                   2464:                                                (u_long)sc->sc_cmdlen,
                   2465:                                                sc->sc_espintr,
                   2466:                                                sc->sc_espstat,
                   2467:                                                sc->sc_espstep);
                   2468:                                /* So far, everything went fine */
                   2469:                                break;
                   2470:                        }
                   2471:
                   2472:                        sc->sc_prevphase = INVALID_PHASE; /* ?? */
                   2473:                        /* Do an implicit RESTORE POINTERS. */
                   2474:                        sc->sc_dp = ecb->daddr;
                   2475:                        sc->sc_dleft = ecb->dleft;
                   2476:                        sc->sc_state = NCR_CONNECTED;
                   2477:                        break;
                   2478:
                   2479:                } else {
                   2480:
                   2481:                        printf("%s: unexpected status after select"
                   2482:                                ": [intr %x, stat %x, step %x]\n",
                   2483:                                sc->sc_dev.dv_xname,
                   2484:                                sc->sc_espintr, sc->sc_espstat,
                   2485:                                sc->sc_espstep);
                   2486:                        NCRCMD(sc, NCRCMD_FLUSH);
                   2487:                        DELAY(1);
                   2488:                        goto reset;
                   2489:                }
                   2490:                if (sc->sc_state == NCR_IDLE) {
                   2491:                        printf("%s: stray interrupt\n",
                   2492:                            sc->sc_dev.dv_xname);
                   2493:                                return (0);
                   2494:                }
                   2495:                break;
                   2496:
                   2497:        case NCR_CONNECTED:
                   2498:                if (sc->sc_flags & NCR_ICCS) {
                   2499:                        /* "Initiate Command Complete Steps" in progress */
                   2500:                        u_char msg;
                   2501:
                   2502:                        sc->sc_flags &= ~NCR_ICCS;
                   2503:
                   2504:                        if (!(sc->sc_espintr & NCRINTR_DONE)) {
                   2505:                                printf("%s: ICCS: "
                   2506:                                      ": [intr %x, stat %x, step %x]\n",
                   2507:                                        sc->sc_dev.dv_xname,
                   2508:                                        sc->sc_espintr, sc->sc_espstat,
                   2509:                                        sc->sc_espstep);
                   2510:                        }
                   2511:                        ncr53c9x_rdfifo(sc, NCR_RDFIFO_START);
                   2512:                        if (sc->sc_imlen < 2)
                   2513:                                printf("%s: can't get status, only %d bytes\n",
                   2514:                                    sc->sc_dev.dv_xname, (int)sc->sc_imlen);
                   2515:                        ecb->stat = sc->sc_imess[sc->sc_imlen - 2];
                   2516:                        msg = sc->sc_imess[sc->sc_imlen - 1];
                   2517:                        NCR_PHASE(("<stat:(%x,%x)>", ecb->stat, msg));
                   2518:                        if (msg == MSG_CMDCOMPLETE) {
                   2519:                                ecb->dleft = (ecb->flags & ECB_TENTATIVE_DONE)
                   2520:                                        ? 0
                   2521:                                        : sc->sc_dleft;
                   2522:                                if ((ecb->flags & ECB_SENSE) == 0)
                   2523:                                        ecb->xs->resid = ecb->dleft;
                   2524:                                sc->sc_state = NCR_CMDCOMPLETE;
                   2525:                        } else
                   2526:                                printf("%s: STATUS_PHASE: msg %d\n",
                   2527:                                        sc->sc_dev.dv_xname, msg);
                   2528:                        sc->sc_imlen = 0;
                   2529:                        NCRCMD(sc, NCRCMD_MSGOK);
                   2530:                        goto shortcut; /* ie. wait for disconnect */
                   2531:                }
                   2532:                break;
                   2533:        default:
                   2534:                /* Don't panic: reset. */
                   2535:                printf("%s: invalid state: %d\n",
                   2536:                      sc->sc_dev.dv_xname,
                   2537:                      sc->sc_state);
                   2538:                ncr53c9x_scsi_reset(sc);
                   2539:                goto out;
                   2540:                break;
                   2541:        }
                   2542:
                   2543:        /*
                   2544:         * Driver is now in state NCR_CONNECTED, i.e. we
                   2545:         * have a current command working the SCSI bus.
                   2546:         */
                   2547:        if (sc->sc_state != NCR_CONNECTED || ecb == NULL) {
                   2548:                panic("ncr53c9x no nexus");
                   2549:        }
                   2550:
                   2551:        switch (sc->sc_phase) {
                   2552:        case MESSAGE_OUT_PHASE:
                   2553:                NCR_PHASE(("MESSAGE_OUT_PHASE "));
                   2554:                ncr53c9x_msgout(sc);
                   2555:                sc->sc_prevphase = MESSAGE_OUT_PHASE;
                   2556:                break;
                   2557:        case MESSAGE_IN_PHASE:
                   2558: msgin:
                   2559:                NCR_PHASE(("MESSAGE_IN_PHASE "));
                   2560:                if (sc->sc_espintr & NCRINTR_BS) {
                   2561:                        if ((sc->sc_rev != NCR_VARIANT_FAS366) ||
                   2562:                            !(sc->sc_espstat2 & FAS_STAT2_EMPTY)) {
                   2563:                                NCRCMD(sc, NCRCMD_FLUSH);
                   2564:                        }
                   2565:                        sc->sc_flags |= NCR_WAITI;
                   2566:                        NCRCMD(sc, NCRCMD_TRANS);
                   2567:                } else if (sc->sc_espintr & NCRINTR_FC) {
                   2568:                        if ((sc->sc_flags & NCR_WAITI) == 0) {
                   2569:                                printf("%s: MSGIN: unexpected FC bit: "
                   2570:                                        "[intr %x, stat %x, step %x]\n",
                   2571:                                sc->sc_dev.dv_xname,
                   2572:                                sc->sc_espintr, sc->sc_espstat,
                   2573:                                sc->sc_espstep);
                   2574:                        }
                   2575:                        sc->sc_flags &= ~NCR_WAITI;
                   2576:                        ncr53c9x_rdfifo(sc,
                   2577:                            (sc->sc_prevphase == sc->sc_phase) ?
                   2578:                            NCR_RDFIFO_CONTINUE : NCR_RDFIFO_START);
                   2579:                        ncr53c9x_msgin(sc);
                   2580:                } else {
                   2581:                        printf("%s: MSGIN: weird bits: "
                   2582:                                "[intr %x, stat %x, step %x]\n",
                   2583:                                sc->sc_dev.dv_xname,
                   2584:                                sc->sc_espintr, sc->sc_espstat,
                   2585:                                sc->sc_espstep);
                   2586:                }
                   2587:                sc->sc_prevphase = MESSAGE_IN_PHASE;
                   2588:                goto shortcut;  /* i.e. expect data to be ready */
                   2589:                break;
                   2590:        case COMMAND_PHASE:
                   2591:                /*
                   2592:                 * Send the command block. Normally we don't see this
                   2593:                 * phase because the SEL_ATN command takes care of
                   2594:                 * all this. However, we end up here if either the
                   2595:                 * target or we wanted to exchange some more messages
                   2596:                 * first (e.g. to start negotiations).
                   2597:                 */
                   2598:
                   2599:                NCR_PHASE(("COMMAND_PHASE 0x%02x (%d) ",
                   2600:                        ecb->cmd.cmd.opcode, ecb->clen));
                   2601:                if (NCR_READ_REG(sc, NCR_FFLAG) & NCRFIFO_FF) {
                   2602:                        NCRCMD(sc, NCRCMD_FLUSH);
                   2603: /*                     DELAY(1); */
                   2604:                }
                   2605:                if (sc->sc_features & NCR_F_DMASELECT) {
                   2606:                        size_t size;
                   2607:                        /* setup DMA transfer for command */
                   2608:                        size = ecb->clen;
                   2609:                        sc->sc_cmdlen = size;
                   2610:                        sc->sc_cmdp = (caddr_t)&ecb->cmd.cmd;
                   2611:                        NCRDMA_SETUP(sc, &sc->sc_cmdp, &sc->sc_cmdlen,
                   2612:                                     0, &size);
                   2613:                        /* Program the SCSI counter */
                   2614:                        NCR_SET_COUNT(sc, size);
                   2615:
                   2616:                        /* load the count in */
                   2617:                        NCRCMD(sc, NCRCMD_NOP|NCRCMD_DMA);
                   2618:
                   2619:                        /* start the command transfer */
                   2620:                        NCRCMD(sc, NCRCMD_TRANS | NCRCMD_DMA);
                   2621:                        NCRDMA_GO(sc);
                   2622:                } else {
                   2623:                        ncr53c9x_wrfifo(sc, (u_char *)&ecb->cmd.cmd, ecb->clen);
                   2624:                        NCRCMD(sc, NCRCMD_TRANS);
                   2625:                }
                   2626:                sc->sc_prevphase = COMMAND_PHASE;
                   2627:                break;
                   2628:        case DATA_OUT_PHASE:
                   2629:                NCR_PHASE(("DATA_OUT_PHASE [%ld] ",(long)sc->sc_dleft));
                   2630:                NCRCMD(sc, NCRCMD_FLUSH);
                   2631:                size = min(sc->sc_dleft, sc->sc_maxxfer);
                   2632:                NCRDMA_SETUP(sc, &sc->sc_dp, &sc->sc_dleft,
                   2633:                          0, &size);
                   2634:                sc->sc_prevphase = DATA_OUT_PHASE;
                   2635:                goto setup_xfer;
                   2636:        case DATA_IN_PHASE:
                   2637:                NCR_PHASE(("DATA_IN_PHASE "));
                   2638:                if (sc->sc_rev == NCR_VARIANT_ESP100)
                   2639:                        NCRCMD(sc, NCRCMD_FLUSH);
                   2640:                size = min(sc->sc_dleft, sc->sc_maxxfer);
                   2641:                NCRDMA_SETUP(sc, &sc->sc_dp, &sc->sc_dleft,
                   2642:                          1, &size);
                   2643:                sc->sc_prevphase = DATA_IN_PHASE;
                   2644:        setup_xfer:
                   2645:                /* Target returned to data phase: wipe "done" memory */
                   2646:                ecb->flags &= ~ECB_TENTATIVE_DONE;
                   2647:
                   2648:                /* Program the SCSI counter */
                   2649:                NCR_SET_COUNT(sc, size);
                   2650:
                   2651:                /* load the count in */
                   2652:                NCRCMD(sc, NCRCMD_NOP|NCRCMD_DMA);
                   2653:
                   2654:                /*
                   2655:                 * Note that if `size' is 0, we've already transceived
                   2656:                 * all the bytes we want but we're still in DATA PHASE.
                   2657:                 * Apparently, the device needs padding. Also, a
                   2658:                 * transfer size of 0 means "maximum" to the chip
                   2659:                 * DMA logic.
                   2660:                 */
                   2661:                NCRCMD(sc,
                   2662:                       (size==0?NCRCMD_TRPAD:NCRCMD_TRANS)|NCRCMD_DMA);
                   2663:                NCRDMA_GO(sc);
                   2664:                return (1);
                   2665:        case STATUS_PHASE:
                   2666:                NCR_PHASE(("STATUS_PHASE "));
                   2667:                sc->sc_flags |= NCR_ICCS;
                   2668:                NCRCMD(sc, NCRCMD_ICCS);
                   2669:                sc->sc_prevphase = STATUS_PHASE;
                   2670:                goto shortcut;  /* i.e. expect status results soon */
                   2671:                break;
                   2672:        case INVALID_PHASE:
                   2673:                break;
                   2674:        default:
                   2675:                printf("%s: unexpected bus phase; resetting\n",
                   2676:                    sc->sc_dev.dv_xname);
                   2677:                goto reset;
                   2678:        }
                   2679:
                   2680: out:
                   2681:        return (1);
                   2682:
                   2683: reset:
                   2684:        ncr53c9x_init(sc, 1);
                   2685:        goto out;
                   2686:
                   2687: finish:
                   2688:        ncr53c9x_done(sc, ecb);
                   2689:        goto out;
                   2690:
                   2691: sched:
                   2692:        sc->sc_state = NCR_IDLE;
                   2693:        ncr53c9x_sched(sc);
                   2694:        goto out;
                   2695:
                   2696: shortcut:
                   2697:        /*
                   2698:         * The idea is that many of the SCSI operations take very little
                   2699:         * time, and going away and getting interrupted is too high an
                   2700:         * overhead to pay. For example, selecting, sending a message
                   2701:         * and command and then doing some work can be done in one "pass".
                   2702:         *
                   2703:         * The delay is a heuristic. It is 2 when at 20MHz, 2 at 25MHz and 1
                   2704:         * at 40MHz. This needs testing.
                   2705:         */
                   2706:        {
                   2707:                struct timeval wait, cur;
                   2708:
                   2709:                microtime(&wait);
                   2710:                wait.tv_usec += 50/sc->sc_freq;
                   2711:                if (wait.tv_usec > 1000000) {
                   2712:                        wait.tv_sec++;
                   2713:                        wait.tv_usec -= 1000000;
                   2714:                }
                   2715:                do {
                   2716:                        if (NCRDMA_ISINTR(sc))
                   2717:                                goto again;
                   2718:                        microtime(&cur);
                   2719:                } while (timercmp(&cur, &wait, <=));
                   2720:        }
                   2721:        goto out;
                   2722: }
                   2723:
                   2724: void
                   2725: ncr53c9x_abort(sc, ecb)
                   2726:        struct ncr53c9x_softc *sc;
                   2727:        struct ncr53c9x_ecb *ecb;
                   2728: {
                   2729:
                   2730:        /* 2 secs for the abort */
                   2731:        ecb->timeout = NCR_ABORT_TIMEOUT;
                   2732:        ecb->flags |= ECB_ABORT;
                   2733:
                   2734:        if (ecb == sc->sc_nexus) {
                   2735:                int timeout = ecb->timeout;
                   2736:
                   2737:                /*
                   2738:                 * If we're still selecting, the message will be scheduled
                   2739:                 * after selection is complete.
                   2740:                 */
                   2741:                if (sc->sc_state == NCR_CONNECTED)
                   2742:                        ncr53c9x_sched_msgout(SEND_ABORT);
                   2743:
                   2744:                /*
                   2745:                 * Reschedule timeout.
                   2746:                 */
                   2747:                if (timeout > 1000000)
                   2748:                        timeout = (timeout / 1000) * hz;
                   2749:                else
                   2750:                        timeout = (timeout * hz) / 1000;
                   2751:                timeout_add(&ecb->to, timeout);
                   2752:        } else {
                   2753:                /*
                   2754:                 * Just leave the command where it is.
                   2755:                 * XXX - what choice do we have but to reset the SCSI
                   2756:                 *       eventually?
                   2757:                 */
                   2758:                if (sc->sc_state == NCR_IDLE)
                   2759:                        ncr53c9x_sched(sc);
                   2760:        }
                   2761: }
                   2762:
                   2763: void
                   2764: ncr53c9x_timeout(arg)
                   2765:        void *arg;
                   2766: {
                   2767:        struct ncr53c9x_ecb *ecb = arg;
                   2768:        struct scsi_xfer *xs = ecb->xs;
                   2769:        struct scsi_link *sc_link = xs->sc_link;
                   2770:        struct ncr53c9x_softc *sc = sc_link->adapter_softc;
                   2771:        struct ncr53c9x_tinfo *ti = &sc->sc_tinfo[sc_link->target];
                   2772:        int s;
                   2773:
                   2774:        sc_print_addr(sc_link);
                   2775:        printf("%s: timed out [ecb %p (flags 0x%x, dleft %x, stat %x)], "
                   2776:               "<state %d, nexus %p, phase(l %x, c %x, p %x), resid %lx, "
                   2777:               "msg(q %x,o %x) %s>",
                   2778:                sc->sc_dev.dv_xname,
                   2779:                ecb, ecb->flags, ecb->dleft, ecb->stat,
                   2780:                sc->sc_state, sc->sc_nexus,
                   2781:                NCR_READ_REG(sc, NCR_STAT),
                   2782:                sc->sc_phase, sc->sc_prevphase,
                   2783:                (long)sc->sc_dleft, sc->sc_msgpriq, sc->sc_msgout,
                   2784:                NCRDMA_ISACTIVE(sc) ? "DMA active" : "");
                   2785: #if NCR53C9X_DEBUG > 1
                   2786:        printf("TRACE: %s.", ecb->trace);
                   2787: #endif
                   2788:
                   2789:        s = splbio();
                   2790:
                   2791:        if (ecb->flags & ECB_ABORT) {
                   2792:                /* abort timed out */
                   2793:                printf(" AGAIN\n");
                   2794:
                   2795:                ncr53c9x_init(sc, 1);
                   2796:        } else {
                   2797:                /* abort the operation that has timed out */
                   2798:                printf("\n");
                   2799:                xs->error = XS_TIMEOUT;
                   2800:                ncr53c9x_abort(sc, ecb);
                   2801:
                   2802:                /* Disable sync mode if stuck in a data phase */
                   2803:                if (ecb == sc->sc_nexus &&
                   2804:                    (ti->flags & T_SYNCMODE) != 0 &&
                   2805:                    (sc->sc_phase & (MSGI|CDI)) == 0) {
                   2806:                        sc_print_addr(sc_link);
                   2807:                        printf("sync negotiation disabled\n");
                   2808:                        sc->sc_cfflags |= (1 << (sc_link->target + 16));
                   2809:                }
                   2810:        }
                   2811:
                   2812:        splx(s);
                   2813: }
                   2814:
                   2815: void
                   2816: ncr53c9x_watch(arg)
                   2817:        void *arg;
                   2818: {
                   2819:        struct ncr53c9x_softc *sc = (struct ncr53c9x_softc *)arg;
                   2820:        struct ncr53c9x_tinfo *ti;
                   2821:        struct ncr53c9x_linfo *li;
                   2822:        int t, s;
                   2823:        /* Delete any structures that have not been used in 10min. */
                   2824:        time_t old = time_second - (10*60);
                   2825:
                   2826:        s = splbio();
                   2827:        for (t = 0; t < sc->sc_ntarg; t++) {
                   2828:                ti = &sc->sc_tinfo[t];
                   2829:                for (li = LIST_FIRST(&ti->luns); li != LIST_END(&ti->luns); ) {
                   2830:                        if (li->last_used < old && !li->untagged && !li->used) {
                   2831:                                if (li->lun < NCR_NLUN)
                   2832:                                        ti->lun[li->lun] = NULL;
                   2833:                                LIST_REMOVE(li, link);
                   2834:                                free(li, M_DEVBUF);
                   2835:                                /* Restart the search at the beginning */
                   2836:                                li = LIST_FIRST(&ti->luns);
                   2837:                                continue;
                   2838:                        }
                   2839:                        li = LIST_NEXT(li, link);
                   2840:                }
                   2841:        }
                   2842:        splx(s);
                   2843:        timeout_add(&sc->sc_watchdog, 60*hz);
                   2844: }

CVSweb